SB1047 war eine schlechte Idee. Aber Sen. Wieners neuestes SB53 ist auf dem richtigen Weg, und es ist wichtig, den Fortschritt zu würdigen. Hier ist meine Begründung. Mein Ansatz zur Regulierung neuartiger Technologien wie Modelle ist: Wir wissen nicht, wie wir "gute" Minderung und Gewährleistung definieren sollen, aber wir werden es wissen, wenn – und falls – wir es sehen. Es gibt zwei Implikationen. #1. Wir sollten keine Risikoschwellen oder Standards für die Entwicklung von Modellen vorschreiben. Wir können uns nicht auf die Risiken einigen, die wichtig sind, wie man sie misst oder wie viel zu viel ist. Die einzige Anleitung für Entwickler, Regulierungsbehörden und Gerichte ist eine Reihe von aufkeimenden Praktiken, die hauptsächlich von geschlossenen Firmen bestimmt werden, die sich auf Bezahlschranken stützen, um die schwere Arbeit zu leisten. Dies könnte die offene Innovation ersticken, indem es Entwickler vagen oder erhöhten Haftungsansprüchen für eine weit verbreitete Veröffentlichung aussetzt. Das war SB1047 in einer Nussschale, zusammen mit ~5 Äquivalenten, die es in dieser Sitzung in den USA inspiriert hat, wie dem RAISE-Gesetz in NY. Wir sollten diesen Ansatz vermeiden. Diese Vorschläge sind – in engen, aber entscheidenden Aspekten – zu weit über das Ziel hinausgeschossen. Und doch: #2. Wir müssen die Praktiken der Branche beleuchten, um besser zu verstehen, welche Sorgfalt, oder deren Fehlen, von verschiedenen Firmen angewendet wird. Wenn Entwickler sich zu einer Sicherheits- und Sicherheitsrichtlinie verpflichten, ihre Arbeitsweise zeigen und eine Dokumentation hinterlassen müssen, können wir die Stärke ihrer Ansprüche besser bewerten, auf aufkommende Risiken überwachen und über zukünftige Interventionen entscheiden. Das ist das EU-AI-Gesetz und der endgültige Verhaltenskodex in einer Nussschale, den sowohl OpenAI als auch Mistral unterstützt haben, und es ist auch die neueste Version von SB53 von @Scott_Wiener. Wenn wir die Entwicklung von Modellen regulieren wollen, ist das grundsätzlich der bessere Ansatz: Transparenz regulieren – nicht Fähigkeiten, Minderung oder akzeptables Risiko. Es würde zumindest einer US-Jurisdiktion die Aufsichtsbehörde von Brüssel geben und unbeabsichtigte Auswirkungen auf die offene Entwicklung vermeiden. Um klarzustellen, es gibt immer noch Eisberge vor uns: > Komplexität. Egal ob Big Tech oder nicht, dies sind belastende Dokumentations- und Berichtspflichten. Taktisch gesprochen, je komplexer, desto anfälliger wird dieses Gesetz. > Anreize. Die verpflichtende öffentliche Berichterstattung über freiwillige Risikobewertungen schafft einen perversen Anreiz für Entwickler, ihre Modelle zu wenig zu testen und schwierige Risiken zu ignorieren. Entwicklern zu erlauben, ihre Ergebnisse Auditoren oder Behörden anstelle der Öffentlichkeit offenzulegen, könnte helfen, größere Offenheit in ihren internen Bewertungen zu fördern. > Trojanisches Pferd. Kaliforniens hyperaktive Kultur des „Durchwühlens und Änderens“ kann es schwierig machen, diese Gesetze zu prüfen. Wenn SB53 sich in ein Standardgesetz wie SB1047 oder RAISE verwandelt, sollte es aus den gleichen Gründen wie zuvor zurückgewiesen werden. Je mehr Schmuckstücke zu diesem Weihnachtsbaum hinzugefügt werden, desto umstrittener wird das Gesetz. > Breite. Das Gesetz wirft ein weites Netz mit weitreichenden Definitionen von katastrophalen Risiken und gefährlichen Fähigkeiten. Für ein "verpflichtendes Berichtswesen / freiwillige Praktiken"-Gesetz funktionieren sie. Wenn dieses Gesetz ein Standardgesetz wäre, wären sie nicht umsetzbar. Zusammenfassend: Hut ab vor Sen. Wiener für sein durchdachtes Engagement und seine Reaktion auf Feedback im vergangenen Jahr. Es ist erfrischend, ein Gesetz zu sehen, das tatsächlich auf früherer Kritik aufbaut. Es gibt immer noch viele Wege, die dieses Gesetz einschlagen könnte – und es hat sich weit über den ursprünglichen Whistleblowing-Vorschlag hinaus entwickelt – aber die Richtung ist vielversprechend.