Câteva știri personale: De când am părăsit OpenAI, am scris public despre cum să construiesc un viitor AI care este cu adevărat interesant: evitarea celor mai mari riscuri și construirea unui viitor cu adevărat bun. Sunt încântat să continui această muncă ca membru al Institutului Roots of Progress.

Când am părăsit OpenAI, am scris că sunt destul de îngrozit de direcția în care se îndreaptă AI. Acest lucru este încă adevărat și cunosc atât de mulți angajați ai laboratoarelor AI care vor ca totul să se oprească, dar se simt neputincioși individual. Dar cred și într-un viitor profund pozitiv cu AI, dacă riscurile sunt gestionate bine.

Pentru a fi clar, cred că laboratoarele AI de astăzi sunt departe de drumul spre obținerea unui viitor pozitiv: nu iau suficient de în serios riscurile AI și nu fac planuri care să fie cu adevărat interesante.

Un mod simplu de a descrie riscurile: companiile AI se grăbesc să construiască tehnologii pe care nu le înțeleg absolut și nu le pot controla, dar cred că ar putea fi extrem de distructive. Și în ceea ce privește beneficiile: afirmarea că AI va rezolva schimbările climatice nu înseamnă că este așa.

În scrierile mele, îmi propun să vă ofer o perspectivă sinceră și clară asupra a ceea ce se întâmplă în AI, de la cineva care a lucrat în domeniu timp de aproape un deceniu. Unde joacă companiile de inteligență artificială jocuri de cuvinte? Ce tipuri de reducere a riscurilor sunt ușoare? Și de ce mă îngrijorează atât de mult?

Sunt încântat să mă alătur unei comunități de alți scriitori, dar fiți siguri că pot spune în continuare ce vreau. Există independență deplină: Singurul lucru care ar trebui să se schimbe este, sper, o îmbunătățire a stilului meu de scris.

Dacă doriți să urmăriți, vă puteți abona la Clear-Eyed AI pe acel alt site proverbial (faceți clic pe el din biografia mea). Este gratuit; Vă cer doar să împărtășiți cuvântul cu alții cărora le-ar putea plăcea.

De asemenea, nu m-am prezentat niciodată în mod corespunzător acolo - așa că postarea de astăzi este despre povestea mea despre originea siguranței AI și despre unele dintre ideile de bază care îmi conduc gândirea. De asemenea, o poveste bonus despre relația surprinzătoare dintre siguranța AI și "salata chinezească de pui".