John Carmack: Koden for AGI kan tenkelig være skrevet av én person Etter å ha trådt tilbake som CTO for Metas Oculus VR, prøvde den legendariske programmereren John Carmack å bestemme seg for om han skulle jobbe med kjernefysisk fisjon eller kunstig generell intelligens (AGI). Han valgte til slutt AGI. "Jeg tror [fisjon] er mulig," sier John. "Noen burde gjøre dette, men det kommer til å innebære litt politikk, ganske store team og en haug med tverrfaglige ting jeg ikke liker. Mens kunstig generell intelligens for meg virker som det mest innflytelsesrike øyeblikket for et enkelt individ, potensielt i verdenshistorien." Han forklarer: "Med det vi vet om hjernen og hva vi kan gjøre med kunstig intelligens . . . Jeg er ikke gal som sier at det er sannsynlig at koden for kunstig generell intelligens vil bestå av titusenvis av linjer kode — ikke millioner av linjer kode.» Han fortsetter: "Dette er kode som i teorien én person kan skrive, i motsetning til å skrive en ny nettleser eller operativsystem. Og basert på fremgangen maskinlæring har gjort det siste tiåret, er det sannsynlig at de viktige tingene vi ikke vet er relativt enkle. Det er sannsynligvis noen få ting — jeg tipper det er færre enn seks viktige innsikter — som må gjøres. Hver av dem kan sannsynligvis skrives på baksiden av en konvolutt. Vi vet ikke hva de er, men når de settes sammen med GPU-er i stor skala og dataene vi alle har tilgang til, kan vi lage noe som oppfører seg som et menneske eller levende vesen, og som deretter kan utdannes på de måtene vi trenger for å komme til et punkt hvor vi kan ha universelle fjernarbeidere hvor alt noen gjør formidles av en datamaskin, som ikke krever fysisk kontakt, en AGI vil kunne gjøre det." Carmack tror ikke dette vil være «utilnærmelig vanskelig»: "Det er utrolig hovmodig å si, men det jeg sa for et par år siden var at det er 50 % sjanse for at det et sted vil være tegn på liv til en AGI i 2030, og jeg har sannsynligvis økt det litt — kanskje 55-60 % nå fordi jeg tror det er en liten følelse av akselerasjon." Videokilde: @lexfridman (2022)