Pensamiento a medias: En las discusiones sobre IA, a menudo se hacen afirmaciones tanto sobre capacidades como sobre los efectos sociales, y en la práctica la frontera es bastante difusa. Diferentes tipos de personalidad y profesiones ven las cosas desde diferentes perspectivas. A riesgo de caricaturizar demasiado, dos lentes comunes parecen ser las siguientes: El prior en informática suele ser: una ASI suficientemente capaz puede en principio resolver cualquier problema. El conocimiento local es solo datos para absorber. Si eres lo suficientemente inteligente y tienes suficiente capacidad de cálculo, puedes centralizar (y resolver) todo. Así que, una vez que superas el umbral de la 'inteligencia' humana, ¿qué 'utilidad' podría tener un ser humano? El antecedente económico (especialmente la corriente hayekiana) es: el conocimiento no es solo hechos que hay que recopilar, es contextual, tácito, a menudo generado en el momento a través de la interacción. No existe antes del proceso que lo utiliza. Ningún poder de optimización te permite saltarte el proceso, porque el conocimiento no está ahí esperando a ser encontrado, sino que está constituido por la interacción. Desde la primera perspectiva, la agencia humana se vuelve epifenomenal, solo estás viendo al optimizador hacer lo suyo. Mientras que en el segundo caso, si el conocimiento se constituye parcialmente a través de la interacción, entonces la agencia es un componente central. De hecho, es ineliminable del propio proceso epistémico. Esto quizá explique por qué los dos bandos se hablan sin otra. La visión de la informática ve la objeción de los economistas como "los humanos quieren sentirse útiles" o "la IA actual aún no es lo suficientemente capaz", limitaciones contingentes que se superarán. La visión economista ve la posición en informática como un error de categoría sobre el conocimiento no es una afirmación sobre los niveles futuros de capacidad, sino sobre la estructura del problema. La visión económica parece inherentemente menos determinista y sugiere algunos beneficios: primero, la vez. Si el despliegue y la adaptación son trabajos reales que no se pueden saltar, la transición no es instantánea. No hay un "foom" donde un sistema lo haga todo de repente. Pero, más importante aún, puntos de apalancamiento: si la creación de valor requiere integración específica del contexto, hay muchos puntos en los que la gobernanza, las instituciones y las elecciones pueden moldear los resultados. No depende únicamente de quien tenga el mayor grupo de entrenamiento o de la capacidad de tu sistema. El otro punto clave es básicamente cómo piensas sobre la alineación. Gillian Hadfield explica que "las normas y valores no son solo características de un entorno exógeno... en cambio, son las salidas de equilibrio de sistemas dinámicos de comportamiento." (Con el prior de informática, la alineación es un problema técnico para extraer la función objetivo correcta. Si sostienes el economista a priori, la alineación *es* la integración en los procesos sociales dinámicos que constituyen el juicio normativo: productos, votos, normas, convenciones, elecciones, etc. Moldear esto es algo continuo, no algo que se resuelva ex ante. Esto no significa necesariamente que la visión de informática sea incorrecta: los problemas de agentes principales y los problemas que siguen instrucciones son reales, pero el espacio de soluciones es mucho más amplio que el propio modelo e incluye toda la pila institucional a través de la cual se despliegan, gobiernan y hacen responsables los sistemas de IA.