John Carmack: De code voor AGI zou in theorie door één individu geschreven kunnen worden Na zijn vertrek als CTO van Meta’s Oculus VR, was de legendarische programmeur John Carmack aan het overwegen of hij zou werken aan nucleaire fissie of kunstmatige algemene intelligentie (AGI). Hij koos uiteindelijk voor AGI. "Ik denk dat [fissie] mogelijk is," zegt John. "Iemand zou dit moeten doen, maar het gaat politiek, behoorlijke teams en een hoop cross-functionele zaken met zich meebrengen die ik niet leuk vind. Terwijl kunstmatige algemene intelligentie voor mij het hoogste hefboommoment lijkt voor een enkel individu, mogelijk in de geschiedenis van de wereld." Hij legt uit: "Met de dingen die we weten over de hersenen en wat we kunnen doen met kunstmatige intelligentie . . . Ik ben geen gek voor het zeggen dat het waarschijnlijk is dat de code voor kunstmatige algemene intelligentie tientallen duizenden regels code zal zijn — niet miljoenen regels code." Hij gaat verder: "Dit is code die in theorie door één individu geschreven zou kunnen worden, in tegenstelling tot het schrijven van een nieuwe webbrowser of besturingssysteem. En op basis van de vooruitgang die machine learning in het afgelopen decennium heeft geboekt, is het waarschijnlijk dat de belangrijke dingen die we niet weten relatief eenvoudig zijn. Er zijn waarschijnlijk een handvol dingen — mijn weddenschap is dat er minder dan zes belangrijke inzichten zijn — die gemaakt moeten worden. Elk van hen kan waarschijnlijk op de achterkant van een envelop geschreven worden. We weten niet wat ze zijn, maar wanneer ze samen worden gebracht in combinatie met GPU's op grote schaal en de data waar we allemaal toegang toe hebben, kunnen we iets maken dat zich gedraagt als een mens of levend wezen en dat vervolgens op elke manier kan worden opgeleid die we nodig hebben om op het punt te komen waar we universele remote workers hebben waarbij alles wat iemand doet, gemedieerd door een computer, dat geen fysieke interactie vereist, een AGI zal kunnen doen." Carmack denkt niet dat dit "onbenaderbaar moeilijk" zal zijn: "Dat is ongelooflijk hoogmoedig om te zeggen, maar wat ik een paar jaar geleden zei, was dat er een kans van 50% is dat ergens in 2030 er tekenen van leven van een AGI zullen zijn, en ik heb dat waarschijnlijk iets verhoogd — misschien 55-60% nu omdat ik denk dat er een klein gevoel van versnelling is." Videobron: @lexfridman (2022)