Se qualcuno sta costruendo qualcosa di ambizioso (senza scopo di lucro o azienda) che possa ridurre questo tipo di rischio catastrofico per la sicurezza alimentare, fatemelo sapere! È qualcosa che @HalcyonFutures e @HalcyonVC supporterebbero.

Esattamente due anni fa, ho lanciato @HalcyonFutures. Fino ad ora abbiamo finanziato e lanciato 16 nuove organizzazioni e aziende, e li abbiamo aiutati a raccogliere quasi un quarto di miliardo di dollari in finanziamenti. Ritorniamo al 2022: dopo otto anni nel VC, mi sono ritirato per esplorare domande sulla tecnologia esponenziale e sul futuro dell'umanità. Poi è stato lanciato ChatGPT – eravamo entrati nell'era dell'IA esponenziale. Il potenziale dell'IA è enorme – ma anche i rischi: disallineamento, perdita di controllo, minacce informatiche e biologiche, frodi, uso improprio da parte di avversari e altro ancora. Perché l'umanità prosperi in quest'era, dovremo costruire un mondo resiliente e sicuro. E avremo bisogno di un ecosistema di soluzioni sia nonprofit che for-profit guidate da leader ambiziosi e riflessivi provenienti dal business, dalla politica, dall'accademia e dai media. Mi sono trovato a chiedere: 1. Come possiamo far lavorare le persone più talentuose del mondo su queste sfide su scala civile? 2. Quale modello di finanziamento ci permetterebbe di supportare molti tipi diversi di progetti? Con queste domande in mente, ho lanciato Halcyon. Stiamo costruendo qualcosa di un po' insolito: - @HalcyonFutures, un'organizzazione nonprofit e fondo di sovvenzioni che aiuta leader e imprenditori a passare a lavori ambiziosi e ad alto impatto. - @HalcyonVC, una società di VC che sostiene fondatori for-profit che affrontano i problemi più difficili nella sicurezza dell'IA e nella resilienza globale. Fino ad ora abbiamo raccolto 25 milioni di dollari in finanziamenti per il fondo nonprofit e VC di Halcyon. Abbiamo incubato o fornito capitale zero-to-one a 16 nonprofit e aziende, e li abbiamo aiutati a raccogliere oltre 200 milioni di dollari — dal lavoro di interpretabilità di @GoodfireAI agli standard e assicurazioni sui rischi dell'IA di @aiunderwriting, alla ricerca sul comportamento dei modelli di @TransluceAI, e alla ricerca di opinione pubblica e media di @SeismicOrg. Siamo un piccolo team di tre (io, Shelby Summerfield e @rossmatican) circondati da una comunità di consulenti e alleati che include leader di laboratori all'avanguardia, governi, cybersecurity, filantropia, startup e VC. Nelle prossime settimane condivideremo di più su Halcyon e su cosa stiamo costruendo dopo. Se stai lavorando a qualcosa che potrebbe entusiasmarci, fai un saluto. Visita il nostro sito web qui sotto nei commenti ⬇️