El monitoreo de la cadena de pensamiento (CoT) podría ser una herramienta poderosa para supervisar los futuros sistemas de IA, especialmente a medida que se vuelven más agentes. Es por eso que estamos respaldando un nuevo artículo de investigación de un equipo interinstitucional de investigadores que impulsa este trabajo.
Bowen Baker
Bowen Baker16 jul, 00:09
Los modelos de razonamiento modernos piensan en un lenguaje sencillo. El seguimiento de sus pensamientos podría ser una herramienta poderosa, aunque frágil, para supervisar los futuros sistemas de IA. Yo y los investigadores de muchas organizaciones pensamos que deberíamos trabajar para evaluar, preservar e incluso mejorar la capacidad de supervisión del CoT.
565.64K