Esta es exactamente la razón por la que los pipelines con intervención humana son necesarios para el futuro previsible, ya que la complejidad de las tareas y el horizonte aumentan, las tasas de éxito disminuyen significativamente. Necesitarás humanos para anclar consistentemente el proceso con el fin de mantener las tasas de éxito. Los principales problemas con los enfoques HITL son: 1. los LLMs ajustados han mejorado tanto que es difícil para los humanos evaluar si las salidas realmente cumplen con los requisitos objetivos porque se ha trabajado mucho para hacer que 'parezcan buenas'. 2. saber cuándo un humano debe intervenir o cuándo el agente/modelo debe ceder la tarea/evaluación. La detección de alucinaciones es un tema complicado.