Pensamiento a medio cocer: En las discusiones sobre la IA, a menudo se hacen afirmaciones sobre tanto las capacidades como los efectos sociales, y en la práctica, el límite es bastante borroso. Diferentes tipos de personalidad y profesiones ven las cosas a través de diferentes lentes. A riesgo de sobrecaricaturizar, dos lentes comunes parecen ser las siguientes: El enfoque del informático tiende a ser: una ASI suficientemente capaz puede, en principio, resolver cualquier problema. El conocimiento local es solo datos que deben ser asimilados. Si eres lo suficientemente inteligente y tienes suficiente capacidad de cálculo, puedes centralizar (y resolver) todo. Así que una vez que superas el umbral de 'inteligencia' humana, ¿qué 'utilidad' podría tener un humano? El enfoque del economista (especialmente la variante hayekiana) es: el conocimiento no son solo hechos que se pueden recopilar, es contextual, tácito, a menudo generado en el momento a través de la interacción. No existe antes del proceso que lo utiliza. Ninguna cantidad de poder de optimización te permite omitir el proceso, porque el conocimiento no está ahí esperando ser encontrado; se constituye a través de la interacción. En la primera visión, la agencia humana se vuelve epifenomenal, solo estás observando al optimizador hacer lo suyo. Mientras que en la segunda, si el conocimiento se constituye parcialmente a través de la interacción, entonces la agencia es un componente central. De hecho, es ineliminable del propio proceso epistémico. Esto quizás explique por qué los dos grupos hablan sin entenderse. La visión del informático ve la objeción del economista como "los humanos quieren sentirse útiles" o "la IA actual no es lo suficientemente capaz aún" - limitaciones contingentes que serán superadas. La visión del economista ve la posición del informático como un error de categoría sobre lo que es el conocimiento - no una afirmación sobre los niveles de capacidad futuros, sino sobre la estructura del problema. La visión económica parece inherentemente menos determinista y sugiere algunos beneficios: primero, el tiempo. Si el despliegue y la adaptación son trabajos reales que no se pueden omitir, la transición no es instantánea. No hay un "foom" donde un sistema de repente lo hace todo. Pero más importante aún, puntos de apalancamiento: si la creación de valor requiere integración específica del contexto, hay muchos puntos donde la gobernanza, las instituciones y las elecciones pueden moldear los resultados. No está determinado únicamente por quien tenga el clúster de entrenamiento más grande o cuán capaz sea tu sistema. El otro punto crucial es básicamente cómo piensas sobre la alineación. Gillian Hadfield explica que "las normas y valores no son solo características de un entorno exógeno... en cambio, son los resultados de equilibrio de sistemas de comportamiento dinámicos." (Con el enfoque del informático, la alineación es un problema técnico de extraer la función objetivo correcta. Si mantienes el enfoque del economista, la alineación *es* la integración en los procesos sociales dinámicos que constituyen el juicio normativo: productos, votos, normas, convenciones, elecciones, etc. Dar forma a esto es algo continuo, no algo que se resuelva ex ante. Esto no significa necesariamente que la visión del informático esté equivocada: los problemas de principal-agente y los problemas de seguimiento de instrucciones son reales, pero el espacio de solución es mucho más grande que el modelo en sí e incluye toda la estructura institucional a través de la cual se despliegan, gobiernan y se rinden cuentas los sistemas de IA.