Polovičatá myšlenka: V diskusích o AI se často objevují tvrzení jak o schopnostech, tak o společenských dopadech, a v praxi je hranice poměrně nejasná. Různé typy osobností a profese vidí věci různými očkami. Na riziko přílišné karikaturizace se dva běžné objektivy zdají být následující: Předem informatiky bývá: dostatečně schopné ASI může v principu vyřešit jakýkoli problém. Místní znalosti jsou jen data, která je třeba vstřebat. Pokud jste dost chytří a máte dostatek výpočetních schopností, můžete všechno centralizovat (a vyřešit). Takže jakmile překročíte práh lidské 'inteligence', jakou 'užitečnost' by člověk vůbec mohl mít? Ekonom předtím (zejména Hayekovský proud) je: poznání nejsou jen fakta, která je třeba sbírat, jsou kontextuální, tacitní, často generovaní v daném okamžiku prostřednictvím interakce. Neexistuje před procesem, který ho používá. Žádná optimalizační síla vám nedovolí přeskočit celý proces, protože znalosti tam nečekají na nalezení – jsou tvořeny interakcí. V prvním pohledu se lidská agentura stává epifenomenální, jen sledujete, jak optimalizátor dělá svou práci. Zatímco u druhého, pokud je poznání částečně konstituováno interakcí, pak je agentura klíčovou složkou. Ve skutečnosti je to neoddělitelné od samotného epistemického procesu. To možná vysvětluje, proč se tyto dva tábory míjejí. Pohled informatiky vidí námitku ekonomů jako "lidé chtějí být užiteční" nebo "současná AI ještě není dostatečně schopná" – což jsou podmíněná omezení, která budou překonána. Ekonomský pohled vidí pozici informatiky jako kategorii, chyba ohledně znalostí není tvrzením o budoucích úrovních schopností, ale o struktuře problému. Ekonomický pohled se zdá být inherentně méně deterministický a naznačuje určité výhody: nejprve čas. Pokud je nasazení a adaptace skutečná práce, kterou nelze přeskočit, přechod není okamžitý. Neexistuje žádný "foom", kdy jeden systém najednou udělá všechno. Ale ještě důležitější je využít body: pokud tvorba hodnoty vyžaduje integraci specifickou pro kontext, existuje mnoho míst, kde může řízení, instituce a volby ovlivnit výsledky. Není to určeno jen tím, kdo má největší tréninkový cluster nebo jak schopný je váš systém. Druhý klíč je v tom, jak přemýšlíte o zarovnání. Gillian Hadfield vysvětluje, že "normy a hodnoty nejsou jen rysy exogenního prostředí... místo toho jsou rovnovážnými výstupy dynamických behaviorálních systémů." (S předchozí informatikou je zarovnání technický problém při získávání správné cílové funkce. Pokud držíte ekonoma na prvním místě, sladění *je* integrace do dynamických sociálních procesů, které tvoří normativní úsudek: produkty, hlasy, normy, konvence, volby atd. Formování tohoto procesu je kontinuální záležitost, není něco, co by se mělo řešit ex ant. To však nutně neznamená, že je pohled informatiky mylný: problémy s hlavním agentem a problémy s následováním instrukcí jsou skutečné – ale prostor řešení je mnohem větší než samotný model a zahrnuje celý institucionální stack, skrze který jsou AI systémy nasazovány, řízeny a odpovědné.