OpenAI hat mit der Einführung von o1 unbeabsichtigt die Intuition von Krypto x KI bewiesen, die ich vor genau einem Jahr in diesem Aufsatz geschrieben habe: Ein Modell wie o1 hat jetzt ein Token-Budget für das Denken von 25.000 für einen einzelnen Prompt - was mindestens eine 20-fache Erhöhung des durchschnittlichen Token-Budgets pro Prompt darstellt. Dies ist eine parallelisierte Rechenaufgabe, bei der verteilte und dezentrale Netzwerke unbegrenzt skalieren können. Und - die Intelligenz, wie sie von einem Benutzer wahrgenommen wird, verbessert sich tatsächlich! Stellen Sie sich vor, ein Netzwerk wie Hyperspace wächst von den heute über 20.000 Knoten auf eines Tages 20 Millionen Knoten, es wäre unter den Top 5 der KI-Cluster weltweit, wo Sie die intelligentesten Antworten erhalten würden. Und es wäre gleichzeitig auch günstiger, da es eine Funktion der lokalen Stromkosten plus der Echtzeit-Marktwirtschaft ist. Es gibt keine Zwischenhändler. Selbst Mikropayments zwischen Agenten würden durch ein Protokoll verwaltet, das von einem Bruchteil dieser Knoten betrieben wird. Große vortrainierte Modelle auf kleinen Clustern sind Dinosaurier in dieser Welt. Zu langsam, nicht so intelligent, auch wenn sie einige Menschen in der akademischen Gemeinschaft erfreuen. Was letztendlich gewinnt, sind die größten Netzwerke. Da Intelligenz jetzt eine Funktion der parallelisierten Skalierung von Inferenz ist, wird nahezu die gesamte KI verteilt sein. Dies ist ein Markt, der einmal alle 20 Jahre kommt. Unsere Prioritäten sind klar: Wir wollen das wirkungsvollste verteilte KI-Unternehmen aufbauen und werden bei dieser Vision keine Kompromisse eingehen. Diese Arbeit umfasst somit neue Modelle, KI-Produkte, verteilte Systeme, Netzwerke, Clients und Protokolle. Wir skalieren mit Software. cc @ylecun

Wir werden bis Ende dieses Jahres weit über 1 Million GPUs online bringen! Ich bin sehr stolz auf das Team, aber jetzt müssen sie sich besser daran machen, herauszufinden, wie sie das um das 100-fache steigern können, lol.

von Skizze zu Code

Vorhersage: Ich denke, dass eine große Anzahl von führenden Entwicklern in den nächsten 12 Monaten aufhören wird, IDEs zu verwenden. Ich habe immer eine IDE verwendet, weil ich die Benutzeroberfläche mag, aber ich finde, dass es für agentisches Codieren jetzt eine riesige Menge an überflüssigem Kram in der IDE-Benutzeroberfläche gibt, der mich und den Agenten nur verlangsamt. Ich wechsle dazu, nur CLI-Agenten + gitui + ein paar Terminalfenster zu verwenden, und ich bin viel schneller. Ich bin neugierig auf die Meinungen von allen. Ich denke, wir beginnen, den Anfang von SDLC 2.0 zu sehen. Das bedeutet auch, dass es Zeit ist, dass GitHub 2.0 entsteht.