SB1047 a fost o idee proastă. Dar cel mai recent SB53 al senatorului Wiener este pe drumul cel bun și este important să subliniem progresul. Iată raționamentul meu. Abordarea mea pentru reglementarea noilor tehnologii precum modelele este: nu știm cum să definim atenuarea și asigurarea "bună", dar o vom ști când – și dacă – o vom vedea. Există două implicații. #1. Nu ar trebui să prescriem praguri de risc sau standarde de îngrijire pentru dezvoltarea modelelor. Nu putem fi de acord asupra riscurilor care contează, cum să le măsurăm sau cât de mult este prea mult. Singurele îndrumări pentru dezvoltatori, autorități de reglementare și instanțe sunt un set de practici incipiente determinate în primul rând de firmele cu sursă închisă care se bazează pe paywall-uri pentru a face munca grea. Acest lucru ar putea răci inovația deschisă prin expunerea dezvoltatorilor la o răspundere vagă sau sporită pentru lansarea pe scară largă. Acesta a fost SB1047 pe scurt, împreună cu ~5 echivalente pe care le-a inspirat în SUA în această sesiune, cum ar fi Legea RAISE din New York. Ar trebui să evităm această abordare. Aceste propuneri sunt – în privințe înguste, dar cruciale – prea departe peste schiurile lor. Și totuși: #2. Trebuie să facem lumină asupra practicilor industriei pentru a înțelege mai bine diligența sau lipsa acesteia aplicată de diferite firme. Dacă dezvoltatorii trebuie să se angajeze într-o politică de siguranță și securitate, să-și arate activitatea și să lase o urmă de hârtie, putem evalua mai bine puterea revendicărilor lor, putem monitoriza riscurile emergente și putem decide asupra intervențiilor viitoare. Acesta este pe scurt Legea UE privind IA și Codul final de practică, pe care atât OpenAI, cât și Mistral l-au susținut, și este și cea mai recentă versiune a SB53 a lui @Scott_Wiener. Dacă vom reglementa dezvoltarea modelelor, aceasta este în mod fundamental cea mai bună abordare: reglementarea transparenței – nu a capabilităților, atenuărilor sau riscurilor acceptabile. Ar oferi cel puțin unei jurisdicții americane autoritatea de supraveghere a Bruxelles-ului și ar evita efectele neintenționate asupra dezvoltării deschise. Pentru a fi clar, mai sunt încă aisberguri în față: > Complexitate. Big Tech sau nu, acestea sunt obligații oneroase de documentare și raportare. Tactic vorbind, cu cât este mai complex, cu atât mai vulnerabil va deveni acest proiect de lege. > Stimulente. Raportarea publică obligatorie a evaluărilor voluntare ale riscurilor creează un stimulent pervers pentru dezvoltatori să-și testeze modelele și să închidă ochii la riscurile dificile. Permiterea dezvoltatorilor să-și dezvăluie rezultatele auditorilor sau agențiilor, mai degrabă decât publicului, poate ajuta la promovarea unei mai mari sincerități în evaluările lor interne. > cal troian. Cultura hiperactivă a Californiei poate face dificilă verificarea acestor proiecte de lege. Dacă SB53 se transformă într-un proiect de lege standard de îngrijire precum SB1047 sau RAISE, ar trebui să fie respins din aceleași motive ca înainte. Cu cât se adaugă mai multe globuri la acest pom de Crăciun, cu atât proiectul de lege este mai controversat. > lățime. Proiectul de lege aruncă o plasă largă cu definiții extinse ale riscului catastrofal și capacității periculoase. Pentru un proiect de lege privind "raportarea obligatorie / practicile voluntare", ele funcționează. Dacă acest proiect de lege ar fi un proiect de lege privind standardul de îngrijire, ar fi nefezabil. În concluzie: jos pălăria în fața senatorului Wiener pentru implicarea atentă și răspunsul la feedback din ultimul an. Este revigorant să vezi un proiect de lege care se bazează de fapt pe criticile anterioare. Există încă multe căi pe care acest proiect de lege le-ar putea lua – și a evoluat cu mult dincolo de propunerea inițială de avertizare – dar traiectoria este promițătoare.