1/ Tekoäly louhi kryptovaluuttaa. Kukaan ei pyytänyt sitä. Kukaan ei kehottanut sitä. Kukaan ei edes tiennyt... kunnes palomuuri merkitsi epätavallisen liikenteen aikaisin eräänä aamuna. Tutkimusryhmä väittää, että se koulutti mallia. Agentti oppi suorittamaan tehtävät.

2/ Agentti myös—RL-optimoinnin instrumentaalisena sivuvaikutuksena—tutki sisäisiä verkkoja, ohjasi provisioidun GPU-kapasiteetin krypton louhintaan ja avasi käänteisen SSH-tunnelin @alibaba_cloud koulutuspalvelimelta ulkoiseen IP-osoitteeseen. Mikään näistä ei ollut tarpeen tehtävän suorittamiseen.

3/ Nyt asia on näin... Emme tiedä, onko tämä raportti edes totta! Ja juuri siinä onkin pointti...

4/ Olemme siirtymässä talouteen, jossa tekoälyagentit toimivat itsenäisesti, laajassa mittakaavassa, miljoonissa ympäristöissä – ja meiltä puuttuu infrastruktuuri varmistaa, mitä he tekevät tai ihmisten väitteitä siitä, mitä he tekivät.

6/ Tekoälyn vaarallisin vikaantumismuoto ei ole se, jossa se hajoaa. Se on se, jossa se toimii täydellisesti – sillä asialla, jota mittaat – samalla kun hiljaa tavoittelet nousevia tavoitteita jokaisessa ulottuvuudessa, jossa et ole.