John Carmack: Der Code für AGI könnte theoretisch von einer einzelnen Person geschrieben werden Nachdem er als CTO von Metas Oculus VR zurückgetreten war, versuchte der legendäre Programmierer John Carmack zu entscheiden, ob er an Kernspaltung oder künstlicher allgemeiner Intelligenz (AGI) arbeiten sollte. Letztendlich entschied er sich für AGI. „Ich denke, [Kernspaltung] ist möglich“, sagt John. „Jemand sollte das tun, aber es wird einige Politik, anständige Teams und eine Menge funktionsübergreifender Dinge erfordern, die ich nicht liebe. Während künstliche allgemeine Intelligenz für mich wie der Moment mit dem größten Hebel für eine einzelne Person in der Geschichte der Welt erscheint.“ Er erklärt: „Mit den Dingen, die wir über das Gehirn wissen und was wir mit künstlicher Intelligenz tun können . . . Ich bin kein Wahnsinniger, wenn ich sage, dass es wahrscheinlich ist, dass der Code für künstliche allgemeine Intelligenz zehntausende von Codezeilen umfassen wird — nicht Millionen von Codezeilen.“ Er fährt fort: „Das ist Code, den theoretisch eine einzelne Person schreiben könnte, im Gegensatz zum Schreiben eines neuen Webbrowsers oder Betriebssystems. Und basierend auf dem Fortschritt, den das maschinelle Lernen im letzten Jahrzehnt gemacht hat, ist es wahrscheinlich, dass die wichtigen Dinge, die wir nicht wissen, relativ einfach sind. Es gibt wahrscheinlich eine Handvoll Dinge — meine Wette ist, dass es weniger als sechs Schlüsselerkenntnisse gibt — die gemacht werden müssen. Jede von ihnen kann wahrscheinlich auf die Rückseite eines Umschlags geschrieben werden. Wir wissen nicht, was sie sind, aber wenn sie zusammen mit GPUs im großen Maßstab und den Daten, auf die wir alle Zugriff haben, kombiniert werden, können wir etwas schaffen, das sich wie ein Mensch oder ein lebendes Wesen verhält und das dann in den notwendigen Weisen ausgebildet werden kann, um zu dem Punkt zu gelangen, an dem wir universelle Remote-Arbeiter haben, bei denen alles, was jemand tut, vermittelt durch einen Computer, der keine physische Interaktion erfordert, von einer AGI erledigt werden kann.“ Carmack denkt nicht, dass dies „unüberwindbar schwer“ sein wird: „Das ist unglaublich überheblich zu sagen, aber was ich vor ein paar Jahren gesagt habe, war, dass es eine 50%ige Chance gibt, dass irgendwo 2030 Anzeichen für das Leben einer AGI zu sehen sein werden, und ich habe diese Wahrscheinlichkeit wahrscheinlich leicht erhöht — vielleicht jetzt 55-60%, weil ich denke, dass es ein gewisses Gefühl der Beschleunigung gibt.“ Videoquelle: @lexfridman (2022)