Dit is precies waarom human-in-the-loop pipelines noodzakelijk zijn voor de nabije toekomst, aangezien de complexiteit van taken en de horizon toenemen, terwijl de succespercentages aanzienlijk dalen. Je hebt mensen nodig om het proces consistent te verankeren om de succespercentages te behouden. De belangrijkste problemen met HITL-benaderingen zijn: 1. fijn afgestelde LLM's zijn zo goed geworden dat het moeilijk is voor mensen om te beoordelen of de output daadwerkelijk aan de objectieve vereisten voldoet, omdat er veel werk is gestoken in het 'goed laten lijken'. 2. weten wanneer een mens moet ingrijpen of wanneer de agent/model de taak/evaluatie moet overdragen. Hallucinatie-detectie is een hell of een onderwerp.