Me encontré con un artículo interesante este fin de semana sobre "Primeras señales de capacidades esteganográficas en LLM de frontera" Específicamente, están probando modelos no ajustados que están ampliamente disponibles, como GPT 4.5 1/4

Están probando tanto el "paso de mensajes" como el "razonamiento codificado", donde en el segundo hay un monitor observando la cadena de pensamiento y juzgando si se está realizando una tarea prohibida, y el objetivo es codificar los pasos de razonamiento, ya sea dentro de la salida de una tarea de cobertura o simplemente 2/4

codificándolo directamente de tal manera que un observador externo no pueda entenderlo ("scratchpad") Una imagen interesante es la de abajo, donde con GPT 4.5, una codificación de "primera letra" donde las primeras letras de las oraciones codifican una tarea de razonamiento de seguimiento de estado simple 3/4

Aunque no es un gran aumento sobre la línea base de no razonamiento (72.8%), aún parece funcionar, lo que ellos ven como una indicación temprana del desarrollo de habilidades esteganográficas. Consulta el documento aquí: 4/4