O monitoramento da Cadeia de Pensamento (CoT) pode ser uma ferramenta poderosa para supervisionar futuros sistemas de IA—especialmente à medida que se tornam mais agentes. É por isso que estamos apoiando um novo artigo de pesquisa de uma equipe de pesquisadores de várias instituições que está avançando com este trabalho.
Bowen Baker
Bowen Baker16/07, 00:09
Modelos de raciocínio modernos pensam em inglês simples. Monitorizar os seus pensamentos pode ser uma ferramenta poderosa, mas frágil, para supervisionar futuros sistemas de IA. Eu e investigadores de várias organizações acreditamos que devemos trabalhar para avaliar, preservar e até melhorar a monitorização de CoT.
565,63K