Halvhjertet tanke: I diskusjoner om AI blir det ofte påstander om både kapasiteter og samfunnseffekter, og i praksis er grensen ganske uklar. Ulike personlighetstyper og yrker ser ting gjennom forskjellige linser. Med risiko for å overkarikere, virker to vanlige linser som følger: Informatikk-prior pleier å være: tilstrekkelig kapabel ASI kan i prinsippet løse ethvert problem. Lokal kunnskap er bare data som skal tas inn. Hvis du er smart nok og har nok datakraft, kan du sentralisere (og løse) alt. Så når du har passert terskelen for menneskelig 'intelligens', hvilken 'nytte' kan et menneske noen gang ha? Økonomens prior (spesielt Hayek-linjen) er: kunnskap er ikke bare fakta som skal samles, den er kontekstuell, stilltiende, ofte skapt i øyeblikket gjennom interaksjon. Den eksisterer ikke før prosessen som bruker den. Ingen mengde optimaliseringskraft lar deg hoppe over prosessen, fordi kunnskapen ikke ligger der og venter på å bli funnet – den utgjøres av interaksjonen. I det første synet blir menneskelig handlekraft epifenomenal, du ser bare på at optimalisatoren gjør jobben sin. Mens med sistnevnte, hvis kunnskap delvis er konstituert gjennom interaksjon, er handlekraft en kjernekomponent. Faktisk er det uutslettelig fra selve den epistemiske prosessen. Dette forklarer kanskje hvorfor de to leirene snakker forbi hverandre. Datavitenskapens syn ser økonomenes innvending som «mennesker vil føle seg nyttige» eller «dagens AI er ikke kapabel nok ennå» – betingede begrensninger som vil bli overvunnet. Økonomens syn ser datavitenskapsposisjonen som en kategorifeil om kunnskap – ikke en påstand om fremtidige ferdighetsnivåer, men om problemets struktur. Økonomisynet virker iboende mindre deterministisk og antyder noen fordeler: først, tid. Hvis utplassering og tilpasning er reelt arbeid som ikke kan hoppes over, er overgangen ikke umiddelbar. Det finnes ingen «foom» der ett system plutselig gjør alt. Men viktigere, forhandlingspunkter: hvis verdiskaping krever kontekstspesifikk integrasjon, finnes det mange punkter hvor styring, institusjoner og valg kan forme resultater. Det bestemmes ikke bare av hvem som har størst treningsklynge eller hvor kapabelt systemet ditt er. Den andre kjernen er i bunn og grunn hvordan du tenker på justering. Gillian Hadfield forklarer at «normer og verdier er ikke bare trekk ved et eksogent miljø... i stedet er de likevektsutgangene til dynamiske atferdssystemer.» ( Med informatikk-prioren er justering et teknisk problem med å hente ut riktig målfunksjon. Hvis du setter økonomen først, *er* tilpasning integreringen i de dynamiske sosiale prosessene som utgjør normativ vurdering: produkter, stemmer, normer, konvensjoner, valg osv. Å forme dette er en kontinuerlig prosess, ikke noe som løses på forhånd. Dette betyr ikke nødvendigvis at informatikk-synet er feil: hovedagentproblemer og instruksjonsproblemer som følger etter er reelle – men løsningsområdet er mye større enn selve modellen og inkluderer hele den institusjonelle stakken som AI-systemer implementeres, styres og holdes ansvarlige gjennom.