Pemantauan Chain of Thought (CoT) bisa menjadi alat yang ampuh untuk mengawasi sistem AI di masa depan—terutama karena sistem tersebut menjadi lebih agen. Itu sebabnya kami mendukung makalah penelitian baru dari tim peneliti lintas institusi yang mendorong pekerjaan ini ke depan.
Bowen Baker
Bowen Baker16 Jul, 00.09
Model penalaran modern berpikir dalam bahasa Inggris sederhana. Memantau pemikiran mereka bisa menjadi alat yang kuat, namun rapuh, untuk mengawasi sistem AI di masa depan. Saya dan para peneliti di banyak organisasi berpikir kita harus bekerja untuk mengevaluasi, melestarikan, dan bahkan meningkatkan kemampuan pemantauan CoT.
565,63K