Několik osobních zpráv: Od té doby, co jsem opustil OpenAI, píšu veřejně o tom, jak vybudovat budoucnost umělé inteligence, která je skutečně vzrušující: vyhýbání se nejhorším rizikům a budování skutečně dobré budoucnosti. Jsem nadšený, že mohu pokračovat v této práci jako člen Roots of Progress Institute.

Když jsem odcházel z OpenAI, napsal jsem, že se dost bojím toho, kam AI směřuje. To je stále pravda a znám mnoho zaměstnanců laboratoří umělé inteligence, kteří chtějí, aby to všechno skončilo, ale individuálně se cítí bezmocní. Ale také věřím v hluboce pozitivní budoucnost s umělou inteligencí, pokud se rizika dobře zvládnou.

Aby bylo jasno, myslím si, že dnešní laboratoře umělé inteligence jsou daleko od cesty k dosažení pozitivní budoucnosti: Neberou rizika umělé inteligence dostatečně vážně a nevytvářejí plány, které by byly skutečně vzrušující.

Jednoduchý způsob, jak popsat rizika: společnosti zabývající se umělou inteligencí se předhánějí ve vývoji technologií, kterým absolutně nerozumí a nemohou je ovlivnit, ale věří, že by mohly být extrémně destruktivní. A pokud jde o přínosy: Tvrzení, že umělá inteligence vyřeší změnu klimatu, to neznamená, že tomu tak je.

Ve svém psaní se snažím poskytnout vám upřímný a jasný pohled na to, co se děje v oblasti umělé inteligence, od někoho, kdo v této oblasti pracuje již téměř deset let. Kde hrají společnosti zabývající se umělou inteligencí slovní hry? Jaké typy snížení rizik jsou snadné? A co mě vlastně tak znepokojuje?

Jsem nadšená, že se připojuji ke komunitě dalších spisovatelů, ale buďte si jistá, že stále mohu říkat, co chci. Je tu plná nezávislost: Jediná věc, která by se měla změnit, je, doufejme, nějaké zlepšení mého stylu psaní.

Pokud chcete sledovat, můžete se přihlásit k odběru Clear-Eyed AI na té příslovečné jiné stránce (klikněte na ni v mém životopise). Je to zdarma; Jen vás žádám, abyste se o toto slovo podělili s ostatními, kterým by se to také mohlo líbit.

Také jsem se tam nikdy pořádně nepředstavil - a tak dnešní příspěvek je o mém příběhu o původu bezpečnosti umělé inteligence a o některých základních myšlenkách, které řídí mé myšlení. Také bonusový příběh o překvapivém vztahu mezi bezpečností umělé inteligence a "čínským kuřecím salátem".