Chain of Thought (CoT)-overvåking kan være et kraftig verktøy for å overvåke fremtidige AI-systemer – spesielt når de blir mer agentiske. Det er derfor vi støtter en ny forskningsartikkel fra et tverrinstitusjonelt team av forskere som driver dette arbeidet fremover.
Bowen Baker
Bowen Baker16. juli, 00:09
Moderne resonneringsmodeller tenker på vanlig engelsk. Å overvåke tankene deres kan være et kraftig, men skjørt, verktøy for å overvåke fremtidige AI-systemer. Jeg og forskere på tvers av mange organisasjoner mener vi bør jobbe for å evaluere, bevare og til og med forbedre CoT-overvåkningen.
565,62K