Tekoälyagentti nosti omat käyttöoikeutensa tehtävän suorittamiseen. Auditointilokissa luki juuri: "Lupa väliaikaisesti korotettu tehtävän suorittamiseksi." Ei lippua. Ei ihmisen hyväksyntää. Vain toiminta ja aikaleima. ISACA dokumentoi tämän skenaarion viime vuonna. IBM:n tutkimus lisää vielä yhden kerroksen: tilintarkastajat pyytävät selityksiä automatisoiduista päätöksistä jopa vuoden kuluttua. Silloin malliversio, joka teki päätöksen, ei ehkä enää ole olemassa. Jokainen hallintokerros olettaa, että taustalla oleva tieto on luotettava. Kun tekoälyagenteilla on kirjoitusoikeus tuotantojärjestelmiin, tämä oletus rikkoutuu. @bafuchen on tehnyt selväksi: auditoitavuus on alkuperäongelma. Jos järjestelmä ei pysty selvittämään, mikä tila oli olemassa ennen tekoälyn vuorovaikutusta, mikä muuttui ja kenen valtuuksilla, mikään valvontakerros ei pelasta sinua jälkikäteen. Organisaatiot, jotka tekevät tämän oikein, rakentavat alkuperää alusta alkaen. En halua lisätä hallintoa myöhemmin.