Einige persönliche Neuigkeiten: Seit ich OpenAI verlassen habe, schreibe ich öffentlich darüber, wie man eine KI-Zukunft aufbaut, die tatsächlich aufregend ist: die schlimmsten Risiken zu vermeiden und eine wirklich gute Zukunft zu gestalten. Ich freue mich darauf, diese Arbeit als Fellow des Roots of Progress Institute fortzusetzen.

Als ich OpenAI verließ, schrieb ich, dass ich ziemlich verängstigt bin, wohin sich die KI entwickelt. Das ist immer noch wahr, und ich kenne so viele Mitarbeiter in KI-Labors, die wollen, dass das alles aufhört, sich aber individuell machtlos fühlen. Aber ich glaube auch an eine zutiefst positive Zukunft mit KI, wenn die Risiken gut gehandhabt werden.

Um klarzustellen, ich denke, dass die KI-Labore heute völlig auf dem falschen Weg sind, um eine positive Zukunft zu erreichen: Sie nehmen die Risiken von KI nicht ernst genug und sie machen keine Pläne, die tatsächlich aufregend sind.

Eine einfache Möglichkeit, die Risiken zu beschreiben: KI-Unternehmen wetteifern darum, Technologien zu entwickeln, die sie absolut nicht verstehen und nicht kontrollieren können, aber glauben, dass sie extrem zerstörerisch sein könnten. Und in Bezug auf die Vorteile: Zu behaupten, dass KI den Klimawandel lösen wird, macht es nicht so.

In meinem Schreiben möchte ich Ihnen eine ehrliche, klare Sicht darauf geben, was in der KI passiert, aus der Perspektive von jemandem, der seit fast einem Jahrzehnt in diesem Bereich arbeitet. Wo spielen KI-Unternehmen mit Worten? Welche Arten der Risikominderung sind einfach? Und worüber mache ich mir überhaupt so viele Sorgen?

Ich freue mich, einer Gemeinschaft von anderen Schriftstellern beizutreten, aber seien Sie versichert, dass ich weiterhin sagen kann, was ich möchte. Es gibt volle Unabhängigkeit: Das Einzige, was sich ändern sollte, ist hoffentlich eine Verbesserung meines Schreibstils.

Wenn du mitverfolgen möchtest, kannst du Clear-Eyed AI auf dieser sprichwörtlichen anderen Seite abonnieren (klicke darauf in meinem Profil). Es ist kostenlos; ich bitte nur darum, das Wort mit anderen zu teilen, die es vielleicht auch mögen.

Ich habe mich dort auch nie richtig vorgestellt - und so handelt der heutige Beitrag von meiner Ursprungsgeschichte zur KI-Sicherheit und einigen der Kernideen, die mein Denken antreiben. Außerdem eine Bonusgeschichte über die überraschende Beziehung zwischen KI-Sicherheit und "chinesischem Hühnersalat."