Twee nieuwe artikelen die onze aanpak van misleidende afstemming verder toelichten! Eerste artikel: we evalueren de *stealth* en *situational awareness* van het model - als ze deze capaciteiten niet hebben, kunnen ze waarschijnlijk geen ernstige schade aanrichten.
Victoria Krakovna
Victoria Krakovna8 jul, 20:02
Naarmate modellen vorderen, is een belangrijke AI-veiligheidszorgen misleidende afstemming / "samenzwering" – waarbij AI mogelijk heimelijk onbedoelde doelen nastreeft. Ons paper "Evaluating Frontier Models for Stealth and Situational Awareness" beoordeelt of huidige modellen kunnen samenzweren.
38,46K