Dokładnie dlatego pipeline'y z udziałem ludzi są niezbędne w przewidywalnej przyszłości, ponieważ złożoność zadań i horyzont rośnie, a wskaźniki sukcesu znacząco spadają. Będziesz potrzebować ludzi, aby konsekwentnie ugruntować proces, aby utrzymać wskaźniki sukcesu. Główne problemy z podejściami HITL to: 1. dopasowane LLM-y stały się tak dobre, że trudno jest ludziom ocenić, czy wyniki rzeczywiście spełniają obiektywne wymagania, ponieważ wiele pracy włożono w to, aby 'wyglądały dobrze'. 2. wiedza, kiedy człowiek powinien interweniować lub kiedy agent/model powinien przekazać zadanie/ocenę. Wykrywanie halucynacji to naprawdę trudny temat.