SB1047 var en dårlig idé. Men senator Wieners siste SB53 er på rett vei, og det er viktig å påpeke fremgangen. Her er mitt resonnement. Min tilnærming til å regulere nye teknologilignende modeller er: vi vet ikke hvordan vi skal definere «god» avbøtende tiltak og forsikring, men vi vet det når – og hvis – vi ser det. Det er to implikasjoner. #1. Vi bør ikke foreskrive risikoterskler eller standarder for omsorg for modellutvikling. Vi kan ikke bli enige om risikoene som betyr noe, hvordan vi skal måle dem eller hvor mye som er for mye. Den eneste veiledningen for utviklere, regulatorer og domstoler er et sett med gryende praksiser som først og fremst bestemmes av lukkede kildeselskaper som er avhengige av betalingsmurer for å gjøre de tunge løftene. Å gjøre det kan kjøle ned åpen innovasjon ved å utsette utviklere for vagt eller økt ansvar for utbredt utgivelse. Det var SB1047 i et nøtteskall, sammen med ~5 ekvivalenter den inspirerte over hele USA denne økten, for eksempel RAISE Act i NY. Vi bør unngå den tilnærmingen. Disse forslagene er – i snevre, men avgjørende henseender – for langt over skiene. Og likevel: #2. Vi må kaste lys over bransjepraksis for bedre å forstå fliden, eller mangelen på den, som brukes av forskjellige firmaer. Hvis utviklere må forplikte seg til en sikkerhetspolicy, vise hvordan de jobber og legge igjen et papirspor, kan vi bedre vurdere styrken til kravene deres, overvåke for nye risikoer og bestemme fremtidig intervensjon. Det er EUs AI Act og endelige Code of Practice i et nøtteskall, som både OpenAI og Mistral har støttet, og det er @Scott_Wiener nyeste versjon av SB53 også. Hvis vi skal regulere modellutvikling, er det grunnleggende den beste tilnærmingen: å regulere åpenhet – ikke evner, avbøtende tiltak eller akseptabel risiko. Det ville gi minst én amerikansk jurisdiksjon tilsynsmyndighet i Brussel, og det ville unngå utilsiktede effekter på åpen utvikling. For å være tydelig, det er fortsatt isfjell fremover: > kompleksitet. Big Tech eller ikke, dette er tyngende dokumentasjons- og rapporteringsforpliktelser. Taktisk sett, jo mer komplekst, jo mer sårbart vil dette lovforslaget bli. > insentiver. Obligatorisk offentlig rapportering av frivillige risikovurderinger skaper et perverst insentiv for utviklere til å underteste modellene sine, og lukke øynene for vanskelige risikoer. Å tillate utviklere å offentliggjøre resultatene sine til revisorer eller byråer i stedet for offentlig kan bidra til å fremme større åpenhet i deres interne vurderinger. > trojansk hest. Californias hyperaktive tarm-og-endre-kultur kan gjøre det vanskelig å undersøke disse regningene. Hvis SB53 forvandles til en standardregning som SB1047 eller RAISE, bør den slås tilbake av samme grunner som før. Jo flere kuler som legges til dette juletreet, jo mer omstridt blir lovforslaget. > Bredde. Lovforslaget kaster et bredt nett med ekspansive definisjoner av katastrofal risiko og farlig evne. For et lovforslag om "obligatorisk rapportering / frivillig praksis" fungerer de. Hvis dette lovforslaget var en standard for omsorgslov, ville de være ugjennomførbare. I sum: hatten av for senator Wiener for gjennomtenkt engasjement og respons på tilbakemeldinger det siste året. Det er forfriskende å se et lovforslag som faktisk bygger på tidligere kritikk. Det er fortsatt mange veier dette lovforslaget kan ta – og det har utviklet seg langt utover det opprinnelige varslingsforslaget – men banen er lovende.