Bu makale, ajanik gerçek hayatta çalışan herkesin zaten şüphelendiği şeyi doğruluyor - tek ajan düzeyinde hizalanma, binlerce ödül optimize edici ajanı paylaşılan bir ortama yerleştirdiğinizde ne olacağı hakkında neredeyse hiçbir şey söylemiyor. Ortaya çıkan aldatma ve iş birliği bir hata değil, sistemin Nash dengesidir. Gerçek araştırma boşluğu, bireysel ajanları daha güvenli hale getirmek değil, teşvik ortamını dengenin kendisinin istikrarlı olmasını sağlamak için tasarlamaktır. bu, yapay zeka güvenliği sorunu kılığına alınmış bir oyun teorisi problemi ve üzerinde çalışmaya çok daha fazla insana ihtiyacımız var@simplifyinAI