SB1047 był złym pomysłem. Ale najnowsze SB53 senatora Wienera jest na właściwej drodze i ważne jest, aby docenić postęp. Oto moje uzasadnienie. Moje podejście do regulacji nowej technologii, takiej jak modele, jest takie: nie wiemy, jak zdefiniować "dobre" łagodzenie i zapewnienie, ale poznamy to, gdy - i jeśli - to zobaczymy. Są dwie implikacje. #1. Nie powinniśmy określać progów ryzyka ani standardów opieki dla rozwoju modeli. Nie możemy się zgodzić co do ryzyk, które mają znaczenie, jak je mierzyć ani jak dużo jest za dużo. Jedynym przewodnikiem dla deweloperów, regulatorów i sądów jest zestaw wczesnych praktyk określonych głównie przez firmy z zamkniętym kodem, które polegają na płatnych ścianach, aby wykonać ciężką pracę. Robienie tego mogłoby schłodzić otwartą innowację, narażając deweloperów na niejasną lub zwiększoną odpowiedzialność za szerokie wydanie. To było SB1047 w pigułce, wraz z ~5 równoważnymi, które zainspirowało w całych Stanach Zjednoczonych w tej sesji, takimi jak ustawa RAISE w NY. Powinniśmy unikać tego podejścia. Te propozycje są - w wąskich, ale kluczowych aspektach - zbyt daleko wykraczające poza to, co jest rozsądne. A jednak: #2. Musimy rzucić światło na praktyki branżowe, aby lepiej zrozumieć staranność, lub jej brak, stosowaną przez różne firmy. Jeśli deweloperzy muszą zobowiązać się do polityki bezpieczeństwa i ochrony, pokazać swoje działania i zostawić ślad papierowy, możemy lepiej ocenić siłę ich roszczeń, monitorować pojawiające się ryzyko i zdecydować o przyszłej interwencji. To jest w skrócie akt AI UE i ostateczny kodeks praktyki, które zarówno OpenAI, jak i Mistral poparły, a także najnowsza wersja SB53 senatora @Scott_Wienera. Jeśli zamierzamy regulować rozwój modeli, to zasadniczo lepsze podejście: regulowanie przejrzystości - a nie możliwości, łagodzeń czy akceptowalnego ryzyka. Daje to przynajmniej jednej jurysdykcji w USA władzę nadzoru Brukseli i unika niezamierzonych skutków dla otwartego rozwoju. Aby było jasne, wciąż są góry lodowe przed nami: > Złożoność. Niezależnie od tego, czy to Big Tech, czy nie, są to uciążliwe obowiązki dokumentacyjne i raportowe. Taktycznie mówiąc, im bardziej złożone, tym bardziej wrażliwy ten projekt ustawy stanie się. > Zachęty. Obowiązkowe publiczne raportowanie dobrowolnych ocen ryzyka tworzy perwersyjną zachętę dla deweloperów do niedostatecznego testowania swoich modeli i ignorowania trudnych ryzyk. Zezwolenie deweloperom na ujawnianie swoich wyników audytorom lub agencjom zamiast publicznie może pomóc w promowaniu większej szczerości w ich wewnętrznych ocenach. > Koń trojański. Hiperaktywna kultura „wycinania i poprawiania” w Kalifornii może utrudniać weryfikację tych ustaw. Jeśli SB53 przekształci się w ustawę o standardzie opieki, taką jak SB1047 lub RAISE, powinna zostać odrzucona z tych samych powodów, co wcześniej. Im więcej ozdób dodaje się do tej choinki bożonarodzeniowej, tym bardziej kontrowersyjny staje się projekt ustawy. > Zakres. Ustawa rzuca szeroką sieć z rozbudowanymi definicjami ryzyka katastrofalnego i niebezpiecznej zdolności. Dla ustawy o "obowiązkowym raportowaniu / dobrowolnych praktykach" działają. Gdyby ta ustawa była ustawą o standardzie opieki, byłyby niewykonalne. Podsumowując: chwała senatorowi Wienerowi za przemyślane zaangażowanie i odpowiedź na opinie w ciągu ostatniego roku. To odświeżające widzieć ustawę, która rzeczywiście opiera się na wcześniejszej krytyce. Wciąż jest wiele ścieżek, którymi ta ustawa może podążać - i ewoluowała daleko poza pierwotną propozycję ujawnienia - ale trajektoria jest obiecująca.