John Carmack: El código para la AGI podría ser escrito por una sola persona Después de renunciar como CTO de Oculus VR de Meta, el legendario programador John Carmack estaba tratando de decidir si trabajaría en fisión nuclear o en inteligencia general artificial (AGI). Finalmente eligió AGI. "Creo que [la fisión] es posible", dice John. "Alguien debería estar haciendo esto, pero va a involucrar algo de política, equipos de tamaño decente y un montón de cosas interfuncionales que no me encantan. Mientras que la inteligencia general artificial me parece el momento de mayor apalancamiento para un individuo potencialmente en la historia del mundo." Él explica: "Con las cosas que sabemos sobre el cerebro y lo que podemos hacer con la inteligencia artificial . . . No soy un loco por decir que es probable que el código para la inteligencia general artificial vaya a ser decenas de miles de líneas de código — no millones de líneas de código." Él continúa: "Este es un código que concebidamente podría escribir un individuo, a diferencia de escribir un nuevo navegador web o sistema operativo. Y basándome en el progreso que el aprendizaje automático ha hecho en la última década, es probable que las cosas importantes que no sabemos sean relativamente simples. Probablemente hay un puñado de cosas — mi apuesta es que hay menos de seis ideas clave — que necesitan ser descubiertas. Cada una de ellas probablemente puede ser escrita en la parte de atrás de un sobre. No sabemos cuáles son, pero cuando se juntan en conjunto con GPUs a gran escala y los datos a los que todos tenemos acceso, podemos crear algo que se comporte como un ser humano o criatura viviente y que luego puede ser educado de las maneras que necesitemos para llegar al punto en que podamos tener trabajadores remotos universales donde cualquier cosa que alguien haga mediada por una computadora, que no requiera interacción física, un AGI podrá hacerlo." Carmack no cree que esto sea "inaccesiblemente difícil": "Eso es increíblemente arrogante de decir, pero lo que dije hace un par de años fue que hay un 50% de probabilidad de que en algún lugar haya signos de vida de un AGI en 2030, y probablemente he aumentado eso ligeramente — tal vez un 55-60% ahora porque creo que hay un pequeño sentido de aceleración." Fuente del video: @lexfridman (2022)