SB1047 var en dålig idé. Men senator Wieners senaste SB53 är på rätt spår, och det är viktigt att lyfta fram framstegen. Så här resonerar jag. Mitt tillvägagångssätt för att reglera ny teknik som modeller är: vi vet inte hur vi ska definiera "bra" begränsning och säkerhet, men vi kommer att veta det när – och om – vi ser det. Det finns två konsekvenser. #1. Vi bör inte föreskriva risktrösklar eller vårdstandarder för modellutveckling. Vi kan inte komma överens om vilka risker som är viktiga, hur de ska mätas eller hur mycket som är för mycket. Den enda vägledningen för utvecklare, tillsynsmyndigheter och domstolar är en uppsättning begynnande metoder som främst bestäms av företag med sluten källkod som förlitar sig på betalväggar för att göra det tunga arbetet. Om du gör det kan det dämpa öppen innovation genom att utsätta utvecklare för vagt eller ökat ansvar för omfattande lansering. Det var SB1047 i ett nötskal, tillsammans med ~5 motsvarigheter som det inspirerade över hela USA den här sessionen, till exempel RAISE Act i NY. Vi bör undvika detta tillvägagångssätt. Dessa förslag är – i snäva men avgörande avseenden – för långt över deras gränser. Och ändå: #2. Vi måste belysa branschpraxis för att bättre förstå den noggrannhet, eller brist på noggrannhet, som tillämpas av olika företag. Om utvecklare måste förbinda sig till en säkerhetspolicy, visa att de fungerar och lämna ett pappersspår kan vi bättre bedöma styrkan i deras påståenden, övervaka nya risker och besluta om framtida ingripanden. Det är EU:s AI Act och slutliga uppförandekod i ett nötskal, som både OpenAI och Mistral har godkänt, och det är @Scott_Wiener:s senaste version av SB53 också. Om vi ska reglera modellutveckling är det i grunden det bättre tillvägagångssättet: att reglera transparens – inte kapacitet, begränsningar eller acceptabel risk. Det skulle ge minst en amerikansk jurisdiktion tillsynsmyndigheten i Bryssel, och det skulle undvika oavsiktliga effekter på öppen utveckling. För att vara tydlig, det finns fortfarande isberg framför oss: > Komplexitet. Big Tech eller inte, detta är betungande dokumentations- och rapporteringsskyldigheter. Taktiskt sett gäller att ju mer komplext, desto mer sårbart kommer detta lagförslag att bli. > incitament. Obligatorisk offentlig rapportering av frivilliga riskbedömningar skapar ett perverst incitament för utvecklare att undertesta sina modeller och blunda för svåra risker. Att tillåta utvecklare att lämna ut sina resultat till revisorer eller byråer i stället för offentligt kan bidra till att främja större uppriktighet i deras interna bedömningar. > trojansk häst. Kaliforniens hyperaktiva tarm-och-korrigera-kultur kan göra det svårt att granska dessa lagförslag. Om SB53 förvandlas till en standardräkning för vård som SB1047 eller RAISE, bör den slås tillbaka av samma skäl som tidigare. Ju fler julgranskulor som läggs till denna julgran, desto mer omtvistad blir räkningen. > Bredd. Lagförslaget kastar ett brett nät med expansiva definitioner av katastrofal risk och farlig förmåga. För ett lagförslag om "obligatorisk rapportering/frivilliga metoder" fungerar de. Om detta lagförslag var en standardlag för vård skulle de vara ogenomförbara. Sammanfattningsvis: hatten av för senator Wiener för att han eftertänksamt engagerat sig och svarat på feedback under det senaste året. Det är uppfriskande att se ett lagförslag som faktiskt bygger på tidigare kritik. Det finns fortfarande många vägar som detta lagförslag kan ta – och det har utvecklats långt bortom det ursprungliga visselblåsarförslaget – men banan är lovande.