Algunas noticias personales: Desde que dejé OpenAI, he estado escribiendo públicamente sobre cómo construir un futuro de IA que sea realmente emocionante: evitando los peores riesgos y construyendo un futuro realmente bueno. Estoy emocionado de continuar este trabajo como miembro del Instituto Roots of Progress.

Cuando dejé OpenAI, escribí que estoy bastante aterrorizado por la dirección que está tomando la IA. Esto sigue siendo cierto, y conozco a muchos empleados de laboratorios de IA que quieren que todo esto se detenga, pero se sienten individualmente impotentes. Pero también creo en un futuro profundamente positivo con la IA, si se manejan bien los riesgos.

Para ser claros, creo que los laboratorios de IA hoy están muy desviados para lograr un futuro positivo: no están tomando en serio los riesgos de la IA y no están haciendo planes que sean realmente emocionantes.

Una forma sencilla de describir los riesgos: las empresas de IA están compitiendo para construir tecnología que absolutamente no entienden y no pueden controlar, pero creen que podría ser extremadamente destructiva. Y en términos de beneficios: afirmar que la IA resolverá el cambio climático no lo convierte en una realidad.

En mi escritura, mi objetivo es ofrecerte una perspectiva honesta y clara sobre lo que está sucediendo en la IA, desde la perspectiva de alguien que ha trabajado en el campo durante casi una década. ¿Dónde están las empresas de IA jugando con las palabras? ¿Qué tipos de reducción de riesgos son fáciles? ¿Y de qué me preocupa tanto, de todos modos?

Estoy emocionado de unirme a una comunidad de otros escritores, pero ten la seguridad de que aún puedo decir lo que quiera. Hay total independencia: lo único que debería cambiar es, con suerte, alguna mejora en mi estilo de escritura.

Si quieres seguirlo, puedes suscribirte a Clear-Eyed AI en ese proverbial otro sitio (haz clic en él desde mi biografía). Es gratis; solo te pido que compartas la palabra con otros que también puedan gustarle.

Tampoco me presenté adecuadamente allí - así que la publicación de hoy trata sobre mi historia de origen en la seguridad de la IA y algunas de las ideas fundamentales que impulsan mi pensamiento. Además, una historia adicional sobre la sorprendente relación entre la seguridad de la IA y la "ensalada de pollo china."