Напівпродумана думка: У дискусіях про ШІ часто висуваються твердження як про можливості, так і про суспільні наслідки, і на практиці межа досить розмита. Різні типи особистості та професії бачать речі по-різному. Ризикуючи перебільшити карикатуру, дві поширені лінзи виглядають такими: Апріор комп'ютерних наук зазвичай такий: достатньо потужний ASI в принципі може розв'язати будь-яку задачу. Локальні знання — це просто дані, які потрібно засвоїти. Якщо ти достатньо розумний і маєш достатньо обчислень, ти зможеш централізувати (і розв'язати) все. Отже, коли ви перевищуєте поріг людського «інтелекту», яку «корисність» може мати людина? Економістський апріор (особливо гаєківський напрям) полягає в тому, що знання — це не просто факти, які потрібно зібрати, вони контекстуальні, неявні, часто генеруються в моменті через взаємодію. Він не існує до процесу, який його використовує. Жодна оптимізаційна потужність не дозволяє пропустити процес, бо знання не просто чекають, щоб їх знайшли — вони формуються взаємодією. У першому погляді людська активність стає епідфеноменальною — ти просто спостерігаєш, як оптимізатор робить свою справу. У той час як у другому, якщо знання частково формуються через взаємодію, то агентність є ключовим компонентом. Насправді це неможливо виключити з самого епістемічного процесу. Можливо, це пояснює, чому ці два табори говорять повз одне одного. Погляд комп'ютерних наук розглядає заперечення економіста як «люди хочуть відчувати себе корисними» або «сучасний ШІ ще недостатньо здатний» — умовні обмеження, які будуть подолані. Економістський погляд розглядає позицію в комп'ютерних науках як категорію помилки щодо знань — це не твердження про майбутні рівні можливостей, а про структуру проблеми. Економічний погляд здається менш детермінованим і пропонує певні переваги: спочатку — час. Якщо розгортання та адаптація — це реальна робота, яку не можна пропустити, перехід не відбувається миттєво. Немає «фуму», коли одна система раптом робить усе. Але ще важливіше — використовуйте важелі: якщо створення цінності потребує контекстно-специфічної інтеграції, існує багато моментів, де управління, інституції та вибір можуть впливати на результати. Це залежить не лише від того, у кого найбільший тренувальний кластер або наскільки потужна ваша система. Інша суть — це те, як ви думаєте про вирівнювання. Джилліан Хедфілд пояснює, що «норми та цінності — це не просто характеристики екзогенного середовища... натомість вони є рівноважними результатами динамічних поведінкових систем.» ( У апріорі комп'ютерних наук вирівнювання — це технічна задача вилучення правильної цільової функції. Якщо ви вважаєте економіста, то узгодження *це* інтеграція в динамічні соціальні процеси, що складають нормативне судження: продукти, голоси, норми, конвенції, вибори тощо. Формування цього — це безперервна справа, а не те, що потрібно вирішувати заздалегідь. Це не обов'язково означає, що погляд комп'ютерних наук помилковий: основні проблеми агентів і завдання виконання інструкцій реальні — але простір рішень значно ширший за саму модель і включає весь інституційний стек, через який розгортаються, керуються та несуть відповідальність системи ШІ.