Именно поэтому в обозримом будущем необходимы системы с участием человека, так как сложность задач и горизонты увеличиваются, а уровень успеха значительно падает. Вам понадобятся люди, чтобы постоянно закреплять процесс, чтобы поддерживать уровень успеха. Основные проблемы с подходами HITL: 1. Тонко настроенные LLM стали настолько хороши, что людям трудно оценить, соответствуют ли результаты объективным требованиям, потому что было вложено много усилий, чтобы они «выглядели хорошо». 2. Знание, когда человеку следует вмешаться или когда агент/модель должен передать задачу/оценку. Обнаружение галлюцинаций — это настоящая тема.