SB1047 byl špatný nápad. Ale nejnovější SB53 senátora Wienera je na správné cestě a je důležité poukázat na pokrok. Zde je moje úvaha. Můj přístup k regulaci nových technologií, jako jsou modely, je takový: nevíme, jak definovat "dobré" zmírnění a zajištění, ale poznáme to, až – a pokud – to uvidíme. Z toho vyplývají dva důsledky. #1. Neměli bychom předepisovat prahové hodnoty rizika ani standardy péče pro vývoj modelů. Nemůžeme se shodnout na tom, na jakých rizicích záleží, jak je měřit nebo kolik je příliš mnoho. Jediným vodítkem pro vývojáře, regulátory a soudy je soubor rodících se praktik určovaných především firmami s uzavřeným zdrojovým kódem, které se spoléhají na paywally. Takový postup by mohl zmrazit otevřené inovace tím, že by vývojáře vystavil vágní nebo zvýšené odpovědnosti za jejich široké zveřejnění. To byl SB1047 v kostce, spolu s ~5 ekvivalenty, které inspiroval po celých Spojených státech na této seanci, jako je zákon RAISE v NY. Tomuto přístupu bychom se měli vyhnout. Tyto návrhy jsou – v úzkých, ale zásadních ohledech – příliš daleko za hranicemi jejich lyží. A přece: #2. Musíme si posvítit na postupy v oboru, abychom lépe porozuměli pečlivosti nebo jejímu nedostatku v různých firmách. Pokud se vývojáři musí zavázat k bezpečnostním zásadám, ukázat, jak fungují, a zanechat papírovou stopu, můžeme lépe posoudit sílu jejich tvrzení, sledovat vznikající rizika a rozhodnout o budoucím zásahu. To je akt EU o umělé inteligenci a konečný kodex zásad v kostce, který OpenAI i Mistral schválily, a je to také nejnovější verze SB53 @Scott_Wiener. Pokud chceme regulovat vývoj modelů, je to v zásadě lepší přístup: regulace transparentnosti – nikoli schopností, zmírnění nebo přijatelného rizika. Přinejmenším jedné americké jurisdikci by to poskytlo dohledovou pravomoc v Bruselu a zabránilo by se tak nezamýšleným dopadům na otevřený rozvoj. Aby bylo jasno, před námi jsou ještě ledovce: > Složitost. Ať už jde o velké technologické společnosti nebo ne, jedná se o obtížnou dokumentaci a ohlašovací povinnosti. Z taktického hlediska platí, že čím složitější, tím zranitelnější se tento zákon stane. > pobídky. Povinné veřejné podávání zpráv o dobrovolném hodnocení rizik vytváří zvrácenou pobídku pro vývojáře, aby své modely nedostatečně testovali a zavírali oči před obtížnými riziky. Umožnění vývojářům zveřejňovat své výsledky auditorům nebo agenturám spíše než veřejně může pomoci podpořit větší otevřenost v jejich interních hodnoceních. > trojský kůň. Kalifornská hyperaktivní kultura gut-and-novel může ztížit prověření těchto zákonů. Pokud se SB53 promění v zákon o standardní péči jako SB1047 nebo RAISE, měl by být stažen ze stejných důvodů jako dříve. Čím více ozdob je k tomuto vánočnímu stromku přidáno, tím spornější je účet. > Šířka. Návrh zákona vrhá širokou síť s rozsáhlými definicemi katastrofického rizika a nebezpečných schopností. U zákona o "povinném hlášení / dobrovolných postupech" fungují. Pokud by tento zákon byl zákonem o standardní péči, byl by neproveditelný. Stručně řečeno: klobouk dolů před senátorem Wienerem za to, že se v uplynulém roce promyšleně zapojil a reagoval na zpětnou vazbu. Je osvěžující vidět návrh zákona, který ve skutečnosti staví na předchozí kritice. Stále existuje mnoho cest, kterými by se tento zákon mohl ubírat – a vyvinul se daleko za původní návrh whistleblowingu – ale trajektorie je slibná.