Inilah sebabnya mengapa pipeline human-in-the-loop diperlukan untuk masa mendatang, karena kompleksitas tugas dan cakrawala meningkat, tingkat keberhasilan turun secara signifikan. Anda akan membutuhkan manusia untuk secara konsisten membumikan proses untuk mempertahankan tingkat keberhasilan. Masalah utama dengan pendekatan HITL adalah: 1. LLM yang disesuaikan telah menjadi sangat baik ke titik di mana sulit bagi manusia untuk menilai apakah outputnya benar-benar memenuhi persyaratan objektif karena banyak pekerjaan telah dilakukan untuk membuatnya 'tampak bagus'. 2. Mengetahui kapan manusia harus campur tangan atau kapan agen/model harus menyerahkan tugas/evaluasi. Deteksi halusinasi adalah salah satu topik yang luar biasa