Моніторинг ланцюжка думок (CoT) може стати потужним інструментом для нагляду за майбутніми системами штучного інтелекту, особливо в міру того, як вони стають більш агентними. Ось чому ми підтримуємо нову наукову статтю від міжвідомчої команди дослідників, які просувають цю роботу.
Bowen Baker
Bowen Baker16 лип., 00:09
Сучасні моделі міркувань мислять простою англійською мовою. Моніторинг їхніх думок може бути потужним, але крихким інструментом для нагляду за майбутніми системами штучного інтелекту. Я та дослідники з багатьох організацій вважають, що ми повинні працювати над оцінкою, збереженням і навіть покращенням моніторингу CoT.
565,63K