だからこそ、近い将来、ヒューマン・イン・ザ・ループ・パイプラインが必要であり、タスクの複雑さと視野が上がるにつれて、成功率は大幅に低下します。成功率を維持するためには、人間が一貫してプロセスを接地する必要があります。 HITL アプローチの主な問題は次のとおりです。 1.微調整されたLLMは、出力が実際に客観的な要件を満たしているかどうかを人間が評価するのが難しいほど良くなっています。これは、「良く見える」ようにするために多くの作業が費やされているためです。 2. いつ人間が介入すべきか、またはエージェント/モデルがいつタスク/評価を引き継ぐべきかを知る。幻覚の検出は、とんでもない話題です