Suy nghĩ nửa vời: Trong các cuộc thảo luận về AI, thường có những tuyên bố về cả khả năng và tác động xã hội, và trên thực tế, ranh giới này khá mờ nhạt. Các loại tính cách và nghề nghiệp khác nhau nhìn nhận mọi thứ qua những lăng kính khác nhau. Với nguy cơ phóng đại quá mức, hai lăng kính phổ biến dường như là như sau: Lập trình viên khoa học máy tính thường có quan điểm: ASI đủ khả năng về nguyên tắc có thể giải quyết bất kỳ vấn đề nào. Kiến thức địa phương chỉ là dữ liệu cần được tiếp nhận. Nếu bạn đủ thông minh và có đủ sức tính toán, bạn có thể tập trung (và giải quyết) mọi thứ. Vì vậy, một khi bạn vượt qua ngưỡng 'trí tuệ' của con người, thì 'tính hữu ích' mà con người có thể có là gì? Quan điểm của nhà kinh tế (đặc biệt là dòng Hayek) là: kiến thức không chỉ là những sự thật để được thu thập, mà nó mang tính ngữ cảnh, ngầm hiểu, thường được tạo ra trong khoảnh khắc thông qua tương tác. Nó không tồn tại trước quá trình sử dụng nó. Không có sức tối ưu hóa nào cho phép bạn bỏ qua quá trình, vì kiến thức không nằm đó chờ được tìm thấy - nó được cấu thành bởi sự tương tác. Trong quan điểm trước, quyền tự chủ của con người trở nên phụ thuộc, bạn chỉ đang quan sát người tối ưu hóa làm việc của họ. Trong khi với quan điểm sau, nếu kiến thức một phần được cấu thành thông qua tương tác, thì quyền tự chủ là một thành phần cốt lõi. Thực tế, nó không thể bị loại bỏ khỏi chính quá trình nhận thức. Điều này có thể giải thích tại sao hai bên thường nói qua lại với nhau. Quan điểm của lập trình viên khoa học máy tính coi phản biện của nhà kinh tế là "con người muốn cảm thấy hữu ích" hoặc "AI hiện tại chưa đủ khả năng" - những hạn chế tạm thời sẽ được khắc phục. Quan điểm của nhà kinh tế coi vị trí của lập trình viên khoa học máy tính là một lỗi phân loại về kiến thức - không phải là một tuyên bố về mức độ khả năng trong tương lai mà là về cấu trúc của vấn đề. Quan điểm kinh tế dường như ít quyết định hơn và gợi ý một số lợi ích: đầu tiên, thời gian. Nếu việc triển khai và thích ứng là công việc thực sự không thể bỏ qua, thì quá trình chuyển đổi không phải là tức thì. Không có "foom" nơi một hệ thống đột nhiên làm mọi thứ. Nhưng quan trọng hơn, các điểm tận dụng: nếu việc tạo ra giá trị yêu cầu tích hợp theo ngữ cảnh cụ thể, có nhiều điểm mà quản trị, thể chế và lựa chọn có thể định hình kết quả. Nó không chỉ được xác định bởi ai có cụm huấn luyện lớn nhất hoặc hệ thống của bạn có khả năng như thế nào. Điểm mấu chốt khác là cách bạn nghĩ về sự căn chỉnh. Gillian Hadfield giải thích rằng "các chuẩn mực và giá trị không chỉ là những đặc điểm của một môi trường ngoại sinh... thay vào đó, chúng là các đầu ra cân bằng của các hệ thống hành vi động." (Với quan điểm của lập trình viên khoa học máy tính, sự căn chỉnh là một vấn đề kỹ thuật của việc trích xuất chức năng mục tiêu đúng. Nếu bạn giữ quan điểm của nhà kinh tế, sự căn chỉnh *là* sự tích hợp vào các quá trình xã hội động mà cấu thành phán đoán chuẩn mực: sản phẩm, phiếu bầu, chuẩn mực, quy ước, lựa chọn, v.v. Việc định hình điều này là một quá trình liên tục, không phải là điều gì đó cần được giải quyết trước. Điều này không nhất thiết có nghĩa là quan điểm của lập trình viên khoa học máy tính là sai: các vấn đề đại diện và các vấn đề tuân theo hướng dẫn là có thật - nhưng không gian giải pháp lớn hơn nhiều so với mô hình và bao gồm toàn bộ cấu trúc thể chế mà qua đó các hệ thống AI được triển khai, quản lý và chịu trách nhiệm.