Pikiran setengah matang: Dalam diskusi tentang AI, klaim sering dibuat tentang kemampuan dan efek sosial, dan dalam praktiknya batasnya cukup kabur. Tipe kepribadian dan profesi yang berbeda melihat sesuatu melalui lensa yang berbeda. Dengan risiko karikaturisasi yang berlebihan, dua lensa umum tampak seperti berikut: Comp sci sebelumnya cenderung menjadi: ASI yang cukup mampu pada prinsipnya dapat memecahkan masalah apa pun. Pengetahuan lokal hanyalah data yang harus diserap. Jika Anda cukup pintar dan memiliki komputasi yang cukup, Anda dapat memusatkan (dan menyelesaikan) semuanya. Jadi begitu Anda melewati ambang batas 'kecerdasan' manusia, 'kegunaan' apa yang pernah dimiliki manusia? Ekonom sebelumnya (terutama strain Hayekian) adalah: pengetahuan bukan hanya fakta yang harus dikumpulkan, itu kontekstual, diam-diam, sering dihasilkan pada saat melalui interaksi. Itu tidak ada sebelum proses yang menggunakannya. Tidak ada jumlah kekuatan pengoptimalan yang memungkinkan Anda melewati proses, karena pengetahuan tidak duduk di sana menunggu untuk ditemukan - itu dibentuk oleh interaksi. Dalam pandangan sebelumnya, agen manusia menjadi epifenomenal, Anda hanya melihat pengoptimal melakukan tugasnya. Sedangkan dengan yang terakhir, jika pengetahuan sebagian dibentuk melalui interaksi, maka agensi adalah komponen inti. Faktanya, itu tidak dapat dihilangkan dari proses epistemik itu sendiri. Ini mungkin menjelaskan mengapa kedua kubu berbicara satu sama lain. Pandangan comp sci melihat keberatan ekonom sebagai "manusia ingin merasa berguna" atau "AI saat ini belum cukup mampu" - keterbatasan kontingen yang akan diatasi. Pandangan ekonom melihat posisi comp sci sebagai kesalahan kategori tentang pengetahuan - bukan klaim tentang tingkat kemampuan masa depan tetapi tentang struktur masalah. Pandangan ekonomi tampaknya secara inheren kurang deterministik dan menunjukkan beberapa manfaat: pertama, waktu. Jika penyebaran dan adaptasi adalah pekerjaan nyata yang tidak dapat dilewati, transisinya tidak instan. Tidak ada "foom" di mana satu sistem tiba-tiba melakukan segalanya. Tetapi yang lebih penting, poin pengungkit: jika penciptaan nilai memerlukan integrasi spesifik konteks, ada banyak poin di mana tata kelola, institusi, dan pilihan dapat membentuk hasil. Ini tidak semata-mata ditentukan oleh siapa pun yang memiliki kluster pelatihan terbesar atau seberapa mampu sistem Anda. Inti lainnya pada dasarnya adalah bagaimana Anda berpikir tentang penyelarasan. Gillian Hadfield menjelaskan bahwa "norma dan nilai bukan hanya fitur dari lingkungan eksogen ... sebaliknya, mereka adalah output keseimbangan dari sistem perilaku dinamis." (Dengan comp sci sebelumnya, penyelarasan adalah masalah teknis untuk mengekstraksi fungsi objektif yang tepat. Jika Anda memegang ekonom terlebih dahulu, keselarasan *adalah* integrasi ke dalam proses sosial dinamis yang membentuk penilaian normatif: produk, suara, norma, konvensi, pilihan, dll. Membentuk ini adalah hal yang berkelanjutan, bukan sesuatu yang harus diselesaikan ex ante. Ini tidak selalu berarti pandangan comp sci salah: masalah agen utama dan instruksi mengikuti masalah adalah nyata - tetapi ruang solusi jauh lebih besar daripada model itu sendiri dan mencakup seluruh tumpukan kelembagaan di mana sistem AI digunakan, diatur, dan dimintai pertanggungjawaban.