John Carmack: Il codice per l'AGI potrebbe essere scritto da un singolo individuo Dopo essersi dimesso da CTO di Oculus VR di Meta, il leggendario programmatore John Carmack stava cercando di decidere se lavorare sulla fissione nucleare o sull'intelligenza artificiale generale (AGI). Alla fine ha scelto l'AGI. "Penso che [la fissione] sia possibile," dice John. "Qualcuno dovrebbe occuparsene, ma comporterà un po' di politica, team di dimensioni decenti e un sacco di cose trasversali che non amo. Mentre l'intelligenza artificiale generale mi sembra il momento di maggiore leva per un singolo individuo potenzialmente nella storia del mondo." Spiega: "Con le cose che sappiamo sul cervello e ciò che possiamo fare con l'intelligenza artificiale . . . Non sono un pazzo a dire che è probabile che il codice per l'intelligenza artificiale generale sarà composto da decine di migliaia di righe di codice — non milioni di righe di codice." Continua: "Questo è un codice che concepibilmente un singolo individuo potrebbe scrivere, a differenza di scrivere un nuovo browser web o un sistema operativo. E basandomi sui progressi che l'apprendimento automatico ha fatto nell'ultimo decennio, è probabile che le cose importanti che non sappiamo siano relativamente semplici. Probabilmente ci sono un paio di cose — la mia scommessa è che ci siano meno di sei intuizioni chiave — che devono essere fatte. Ognuna di esse può probabilmente essere scritta sul retro di una busta. Non sappiamo quali siano, ma quando saranno messe insieme in concerto con le GPU su larga scala e i dati a cui tutti abbiamo accesso, possiamo creare qualcosa che si comporta come un essere umano o una creatura vivente e che può poi essere educato in qualsiasi modo necessario per arrivare al punto in cui possiamo avere lavoratori remoti universali dove qualsiasi cosa che qualcuno faccia mediata da un computer, che non richiede interazione fisica, un'AGI sarà in grado di farlo." Carmack non pensa che questo sarà "inavvicinabile": "È incredibilmente presuntuoso dirlo, ma quello che ho detto un paio di anni fa è che c'è una probabilità del 50% che da qualche parte ci saranno segni di vita di un'AGI nel 2030, e probabilmente ho aumentato leggermente quella percentuale — forse 55-60% ora perché penso che ci sia un certo senso di accelerazione." Fonte video: @lexfridman (2022)