John Carmack: Kode untuk AGI bisa ditulis oleh satu individu Setelah mengundurkan diri sebagai CTO Meta Oculus VR, programmer legendaris John Carmack mencoba memutuskan apakah dia akan bekerja pada fisi nuklir atau kecerdasan umum buatan (AGI). Dia akhirnya memilih AGI. "Saya pikir [fisi] itu mungkin," kata John. "Seseorang harus melakukan ini, tetapi itu akan melibatkan beberapa politik, tim berukuran layak, dan banyak hal lintas fungsi yang tidak saya sukai. Sementara kecerdasan umum buatan bagi saya tampak seperti momen leverage tertinggi untuk satu individu yang berpotensi dalam sejarah dunia." Dia menjelaskan: "Dengan hal-hal yang kita ketahui tentang otak dan apa yang dapat kita lakukan dengan kecerdasan buatan . . . Saya bukan orang gila karena mengatakan bahwa kemungkinan kode untuk kecerdasan umum buatan akan menjadi puluhan ribu baris kode - bukan jutaan baris kode." Dia melanjutkan: "Ini adalah kode yang mungkin dapat ditulis oleh satu orang, tidak seperti menulis browser web atau sistem operasi baru. Dan berdasarkan kemajuan yang telah dicapai pembelajaran mesin dalam dekade terakhir, kemungkinan hal-hal penting yang tidak kita ketahui relatif sederhana. Mungkin ada beberapa hal – taruhan saya adalah ada kurang dari enam wawasan utama – yang perlu dibuat. Masing-masing mungkin dapat ditulis di bagian belakang amplop. Kami tidak tahu apa itu, tetapi ketika mereka disatukan bersama dengan GPU dalam skala besar dan data yang kita semua dapat akses, kami dapat membuat sesuatu yang berperilaku seperti manusia atau makhluk hidup dan kemudian dapat dididik dengan cara apa pun yang kami butuhkan untuk mencapai titik di mana kami dapat memiliki pekerja jarak jauh universal di mana apa pun yang dilakukan seseorang dimediasi oleh komputer, itu tidak memerlukan interaksi fisik, AGI akan dapat melakukannya." Carmack tidak berpikir ini akan "sulit didekati": "Itu sangat sombong untuk dikatakan, tetapi apa yang saya katakan beberapa tahun yang lalu adalah bahwa ada kemungkinan 50% bahwa di suatu tempat akan ada tanda-tanda kehidupan AGI pada tahun 2030, dan saya mungkin telah meningkatkannya sedikit - mungkin 55-60% sekarang karena saya pikir ada sedikit rasa akselerasi." Sumber video: @lexfridman (2022)