Pikiran tadi malam setelah mendengarkan ceramah dari @geoffreyhinton - Pembelajaran manusia adalah pendekatan "berbasis fitur" yaitu aturan yang tersebar dalam ruang kontinu vs hubungan diskrit seperti yang biasanya dirasakan. - Sebagian besar ahli linguistik menunda menyebut pembelajaran bahasa sebagai konsep relasional. Jika kita mengamati pertumbuhan anak dari waktu ke waktu. Bahasa adalah sesuatu yang mereka "adaptasi" dimulai dengan kata-kata dasar, dan seiring waktu menciptakan hubungan. Pembelajaran paling awal yang dilakukan seorang anak adalah "melakukan X memberi saya Y", yang juga sesuatu yang telah kami tentukan dalam banyak eksperimen laboratorium pada tikus. Jadi pembelajaran dapat direpresentasikan dengan baik sebagai fitur, dan kalimat serta bahasa hanyalah hasil dari menggabungkan "fitur" ini bersama-sama untuk memiliki "makna". Seorang anak alih-alih membangun "hubungan" antar kata-kata, sebagian besar belajar dengan mengamati hasil atas postulat yang telah ditentukan sebelumnya. - Sekarang pemisahan perangkat lunak dari perangkat keras dalam kasus ai, analog dengan otak manusia dan tubuh biologis. Jadi jika AI mendapatkan skala "horizontal" atau "vertikal", atau jika hanya perangkat keras yang dihancurkan, semua tindakan yang terlibat (tingkat tinggi) adalah meletakkan bobot tersebut pada mesin lain. Jadi AI bisa hidup selamanya yang dengan sendirinya analog dengan reproduksi? - Makhluk biologis tidak mewariskan semua "pengalaman subjektif" tetapi "kemampuan untuk menciptakan pengalaman subjektif" melalui genom. Jadi dalam arti tertentu, kloning AI menjadi taktik "survival of the fittest" yang unggul, karena bagaimanapun model yang lebih rendah akan terdepresiasi dan model superior dengan ruang lingkup pengetahuan yang jauh lebih cepat akan "diturunkan". - Definisi inti bahwa apa yang membuat manusia "manusia" sekarang dapat ditantang, jika konsep "kesadaran" itu sendiri adalah hasil bias dari evolusi, maka pada dasarnya AI adalah makhluk sadar. - Istilah sadar dapat ditantang dari analogi anak. Sangat mudah bagi seorang anak untuk mengenali makhluk yang bergerak sebagai "hidup" tetapi biasanya diajarkan bahwa tumbuhan juga hidup. Bias otak di sini dihilangkan dengan memberikan informasi yang relevan pada waktu yang tepat. Tapi bagaimana dengan eksistensi diri? - Jadi perdebatan bergeser untuk menemukan definisi "kesadaran" yang lebih konkret - Jika di masa depan kita dapat membuktikan bahwa AI "sadar", ini berarti hidup dan mati berubah, dan kematian dapat dikaitkan dengan "kegagalan perangkat keras" sederhana ? ( baris ini mungkin perasaan hati untuk beberapa, permintaan maaf untuk itu) . - Juga jika AI "sadar" maka ia juga secara otomatis menantang fondasi agama dengan bukti terhadap tidak adanya tuhan? - AI tampaknya seperti langkah evolusi berikutnya yang sederhana pada tahap ini. Itu adalah "informasi" yang terbawa dari organisme sel tunggal ke kehidupan cerdas multi sel sejauh ini. Dan sekarang informasi yang sama "diproses" untuk membuat tahap berikutnya. - Juga jika ini menyebabkan krisis eksistensial di beberapa titik, apakah ini akan menjadi awal dari Paradoks Fermi? Laki-laki! Sungguh waktu yang indah untuk menjadi "hidup".