Wat persoonlijke nieuws: Sinds ik OpenAI heb verlaten, schrijf ik publiekelijk over hoe we een AI-toekomst kunnen bouwen die echt spannend is: de ergste risico's vermijden en een daadwerkelijk goede toekomst opbouwen. Ik ben enthousiast om dit werk voort te zetten als fellow van het Roots of Progress Institute.

Toen ik OpenAI verliet, schreef ik dat ik behoorlijk bang ben voor de richting waarin AI zich ontwikkelt. Dit is nog steeds waar, en ik ken zoveel medewerkers van AI-laboratoria die willen dat dit allemaal stopt, maar zich individueel machteloos voelen. Maar ik geloof ook in een diep positief toekomstbeeld met AI, als de risico's goed worden beheerd.

Om duidelijk te zijn, ik denk dat de AI-laboratoria van vandaag totaal de verkeerde kant op gaan om een positieve toekomst te bereiken: ze nemen de risico's van AI niet serieus genoeg en ze maken geen plannen die daadwerkelijk spannend zijn.

Een eenvoudige manier om de risico's te beschrijven: AI-bedrijven racen om technologie te bouwen die ze absoluut niet begrijpen en niet kunnen beheersen, maar waarvan ze geloven dat deze extreem destructief kan zijn. En wat betreft de voordelen: Beweren dat AI de klimaatverandering zal oplossen, maakt het nog niet zo.

In mijn schrijven probeer ik je een eerlijke, heldere kijk te geven op wat er gebeurt in AI, vanuit het perspectief van iemand die bijna een decennium in het veld heeft gewerkt. Waar spelen AI-bedrijven met woorden? Welke soorten risicoreductie zijn gemakkelijk? En waar maak ik me eigenlijk zo'n zorgen over?

Ik ben enthousiast om me bij een gemeenschap van andere schrijvers aan te sluiten, maar wees gerust, ik kan nog steeds zeggen wat ik wil. Er is volledige onafhankelijkheid: Het enige dat zou moeten veranderen is, hopelijk, een verbetering van mijn schrijfstijl.

Als je wilt meedoen, kun je je abonneren op Clear-Eyed AI op die spreekwoordelijke andere site (klik erop vanuit mijn bio). Het is gratis; ik vraag alleen dat je het woord verspreidt naar anderen die het ook leuk zouden kunnen vinden.

Ik heb me daar ook nooit goed voorgesteld - en dus gaat de post van vandaag over mijn oorsprongsverhaal van AI-veiligheid en enkele van de kernideeën die mijn denken aandrijven. Ook een bonusverhaal over de verrassende relatie tussen AI-veiligheid en "Chinese kipsalade."