Alcune notizie personali: Da quando ho lasciato OpenAI, ho scritto pubblicamente su come costruire un futuro dell'IA che sia davvero entusiasmante: evitando i peggiori rischi e costruendo un futuro realmente buono. Sono entusiasta di continuare questo lavoro come membro del Roots of Progress Institute.

Quando ho lasciato OpenAI, ho scritto che sono piuttosto spaventato da dove sta andando l'IA. Questo è ancora vero, e conosco così tanti dipendenti di laboratori di IA che vogliono che tutto questo finisca, ma si sentono individualmente impotenti. Ma credo anche in un futuro profondamente positivo con l'IA, se i rischi vengono gestiti bene.

Per essere chiari, penso che i laboratori di intelligenza artificiale oggi siano completamente fuori strada per raggiungere un futuro positivo: non stanno prendendo sul serio i rischi dell'IA e non stanno facendo piani che siano realmente entusiasmanti.

Un modo semplice per descrivere i rischi: le aziende di intelligenza artificiale stanno correndo per costruire tecnologie che non comprendono affatto e non possono controllare, ma credono che potrebbero essere estremamente distruttive. E per quanto riguarda i benefici: affermare che l'IA risolverà il cambiamento climatico non lo rende vero.

Nel mio scritto, cerco di offrirti un'analisi onesta e lucida su ciò che sta accadendo nell'IA, da qualcuno che lavora nel settore da quasi un decennio. Dove le aziende di IA stanno giocando con le parole? Quali tipi di riduzione del rischio sono facili? E di cosa sono così preoccupato, comunque?

Sono entusiasta di unirmi a una comunità di altri scrittori, ma sii certo che posso comunque dire quello che voglio. C'è piena indipendenza: l'unica cosa che dovrebbe cambiare è, si spera, un miglioramento del mio stile di scrittura.

Se vuoi seguire, puoi iscriverti a Clear-Eyed AI su quel proverbiale altro sito (cliccalo dal mio profilo). È gratuito; ti chiedo solo di spargere la voce con altri che potrebbero piacergli.

Non mi sono mai presentato correttamente lì - e quindi il post di oggi riguarda la mia storia di origine sulla sicurezza dell'IA e alcune delle idee fondamentali che guidano il mio pensiero. Inoltre, una storia bonus sulla sorprendente relazione tra la sicurezza dell'IA e l'"insalata di pollo cinese."