El monitoreo de la Cadena de Pensamiento (CoT) podría ser una herramienta poderosa para supervisar los futuros sistemas de IA, especialmente a medida que se vuelven más agentes. Por eso estamos apoyando un nuevo artículo de investigación de un equipo de investigadores de diversas instituciones que impulsa este trabajo hacia adelante.
Bowen Baker
Bowen Baker16 jul, 00:09
Los modelos de razonamiento modernos piensan en inglés sencillo. Monitorear sus pensamientos podría ser una herramienta poderosa, aunque frágil, para supervisar los futuros sistemas de IA. Yo y los investigadores de muchas organizaciones pensamos que deberíamos trabajar para evaluar, preservar e incluso mejorar la monitorización de CoT.
565,63K