Полуготовая мысль: В обсуждениях о ИИ часто выдвигаются утверждения как о возможностях, так и о социальных эффектах, и на практике граница довольно размыта. Разные типы личностей и профессий видят вещи через разные призмы. Рискуя чрезмерно карикатурить, две распространенные призмы выглядят следующим образом: Представление компьютерного ученого заключается в том, что достаточно способный ИИ в принципе может решить любую проблему. Местные знания — это просто данные, которые нужно усвоить. Если вы достаточно умны и у вас достаточно вычислительных мощностей, вы можете централизовать (и решить) все. Так что, как только вы преодолеваете порог «интеллекта» человека, какую «полезность» может иметь человек? Представление экономиста (особенно хайековского направления) заключается в том, что знания — это не просто факты, которые нужно собрать, это контекстуально, неявно, часто генерируется в момент взаимодействия. Оно не существует до процесса, который его использует. Никакая мощность оптимизации не позволяет вам пропустить процесс, потому что знания не лежат там, ожидая, чтобы их нашли — они конституируются взаимодействием. В первом взгляде человеческое агентство становится эпифеноменальным, вы просто наблюдаете, как оптимизатор делает свое дело. В то время как во втором, если знания частично конституируются через взаимодействие, то агентство является основным компонентом. На самом деле, оно не может быть устранено из самого эпистемического процесса. Это, возможно, объясняет, почему два лагеря говорят мимо друг друга. Взгляд компьютерного ученого рассматривает возражение экономиста как «людям нужно чувствовать себя полезными» или «текущий ИИ еще недостаточно способен» — условные ограничения, которые будут преодолены. Взгляд экономиста рассматривает позицию компьютерного ученого как категориальную ошибку о том, что такое знание — это не утверждение о будущих уровнях возможностей, а о структуре проблемы. Экономический взгляд кажется по своей сути менее детерминированным и предполагает некоторые преимущества: во-первых, время. Если развертывание и адаптация — это реальная работа, которую нельзя пропустить, переход не является мгновенным. Нет «фума», когда одна система внезапно делает все. Но, что более важно, точки рычага: если создание ценности требует контекстно-специфической интеграции, есть много точек, где управление, институты и выборы могут формировать результаты. Это не определяется исключительно тем, у кого самый большой кластер для обучения или насколько способен ваша система. Другой ключевой момент заключается в том, как вы думаете о согласовании. Джиллиан Хэдфилд объясняет, что «нормы и ценности — это не просто характеристики экзогенной среды... вместо этого они являются равновесными результатами динамических поведенческих систем». (С точки зрения компьютерного ученого, согласование — это техническая проблема извлечения правильной целевой функции. Если вы придерживаетесь экономического взгляда, согласование *является* интеграцией в динамические социальные процессы, которые конституируют нормативное суждение: продукты, голоса, нормы, конвенции, выборы и т. д. Формирование этого — это непрерывный процесс, а не что-то, что нужно решить заранее. Это не обязательно означает, что взгляд компьютерного ученого неверен: проблемы принципала и агента и проблемы следования инструкциям реальны — но пространство решений гораздо больше, чем сама модель и включает в себя всю институциональную структуру, через которую развертываются, управляются и несут ответственность ИИ-системы.