Algunas noticias personales: desde que dejé OpenAI, he estado escribiendo públicamente sobre cómo construir un futuro de IA que sea realmente emocionante: evitar los peores riesgos y construir un futuro realmente bueno. Estoy emocionado de continuar este trabajo como miembro del Instituto Roots of Progress.

Cuando dejé OpenAI, escribí que estoy bastante aterrorizado de hacia dónde se dirige la IA. Esto sigue siendo cierto, y conozco a muchos empleados de laboratorio de IA que quieren que todo esto se detenga, pero se sienten individualmente impotentes. Pero también creo en un futuro profundamente positivo con la IA, si los riesgos se manejan bien.

Para ser claros, creo que los laboratorios de IA de hoy están muy lejos de lograr un futuro positivo: no se están tomando los riesgos de la IA lo suficientemente en serio y no están haciendo planes que sean realmente emocionantes.

Una forma sencilla de describir los riesgos: las empresas de IA están compitiendo para construir tecnología que no entienden en absoluto y no pueden controlar, pero que creen que podría ser extremadamente destructiva. Y en términos de beneficios: afirmar que la IA resolverá el cambio climático no lo hace así.

En mi escritura, mi objetivo es brindarle una visión honesta y clara de lo que está sucediendo en la IA, de alguien que ha trabajado en el campo durante casi una década. ¿Dónde juegan las empresas de IA a los juegos de palabras? ¿Qué tipos de reducción de riesgos son fáciles? ¿Y qué me preocupa tanto de todos modos?

Estoy emocionado de unirme a una comunidad de otros escritores, pero tenga la seguridad de que todavía puedo decir lo que quiera. Hay total independencia: lo único que debería cambiar es, con suerte, alguna mejora en mi estilo de escritura.

Si desea seguirlo, puede suscribirse a Clear-Eyed AI en ese otro sitio proverbial (haga clic en él desde mi biografía). Es gratis; Solo te pido que compartas la palabra con otras personas a las que también les guste.

Tampoco me presenté adecuadamente allí, por lo que la publicación de hoy trata sobre mi historia de origen de seguridad de IA y algunas de las ideas centrales que impulsan mi pensamiento. Además, una historia adicional sobre la sorprendente relación entre la seguridad de la IA y la "ensalada de pollo china".