Monitorowanie Chain of Thought (CoT) może być potężnym narzędziem do nadzorowania przyszłych systemów AI—szczególnie w miarę ich stawania się bardziej agentycznymi. Dlatego wspieramy nowy artykuł badawczy zespołu badaczy z różnych instytucji, który posuwa tę pracę naprzód.
Bowen Baker
Bowen Baker16 lip, 00:09
Nowoczesne modele rozumowania myślą w prostym angielskim. Monitorowanie ich myśli może być potężnym, ale kruchym narzędziem do nadzorowania przyszłych systemów AI. Ja oraz badacze z wielu organizacji uważamy, że powinniśmy pracować nad oceną, zachowaniem, a nawet poprawą monitorowalności CoT.
565,64K