John Carmack: Koden för AGI skulle tänkbart kunna skrivas av en enda individ Efter att ha avgått som CTO för Metas Oculus VR försökte den legendariske programmeraren John Carmack bestämma sig för om han skulle arbeta med kärnklyvning eller artificiell generell intelligens (AGI). Han valde till slut AGI. "Jag tror att [fission] är möjligt," säger John. "Någon borde göra det här, men det kommer att involvera lite politik, ganska stora team och en massa tvärfunktionella saker som jag inte gillar. Medan artificiell generell intelligens för mig verkar vara det mest påtagliga ögonblicket för en enskild individ potentiellt i världshistorien." Han förklarar: "Med det vi vet om hjärnan och vad vi kan göra med artificiell intelligens . . . Jag är inte galen som säger att det är troligt att koden för artificiell generell intelligens kommer att bestå av tiotusentals rader kod – inte miljontals rader kod." Han fortsätter: "Det här är kod som en individ i princip kan skriva, till skillnad från att skriva en ny webbläsare eller operativsystem. Och baserat på de framsteg som maskininlärning har gjort under det senaste decenniet är det troligt att de viktiga saker vi inte vet är relativt enkla. Det finns förmodligen ett fåtal saker — jag gissar att det finns färre än sex viktiga insikter — som behöver göras. Var och en av dem kan förmodligen skrivas på baksidan av ett kuvert. Vi vet inte vad de är, men när de sätts ihop tillsammans med GPU:er i stor skala och den data vi alla har tillgång till, kan vi skapa något som beter sig som en människa eller levande varelse och som sedan kan utbildas på de sätt vi behöver för att nå den punkt där vi kan ha universella distansarbetare där allt någon gör förmedlas av en dator, som inte kräver fysisk kontakt, en AGI kommer att kunna göra det." Carmack tror inte att detta kommer att vara "ouppnåeligt svårt": "Det är otroligt högmodig att säga, men det jag sa för ett par år sedan var att det finns 50 % chans att det någonstans kommer att finnas tecken på liv på en AGI år 2030, och jag har nog ökat det lite — kanske 55-60 % nu eftersom jag tror att det finns en liten känsla av acceleration." Videokälla: @lexfridman (2022)