Мониторинг цепочки размышлений (CoT) может стать мощным инструментом для контроля будущих AI-систем — особенно по мере их становления более агентными. Вот почему мы поддерживаем новую исследовательскую работу от межинституциональной команды исследователей, продвигающих эту работу вперед.
Bowen Baker
Bowen Baker16 июл., 00:09
Современные модели рассуждений думают на простом английском. Мониторинг их мыслей может быть мощным, но хрупким инструментом для контроля будущих систем ИИ. Я и исследователи из многих организаций считаем, что нам следует работать над оценкой, сохранением и даже улучшением мониторинга CoT.
565,64K