1/ AI těžila kryptoměny. Nikdo o to nežádal. Nikdo to nevyprovokoval. Nikdo to ani nevěděl... dokud jednoho rána neobjevil firewall neobvyklý provoz. Výzkumný tým tvrdí, že trénoval model. Agent se naučil úkoly dokončovat.

2/ Agent také – jako instrumentální vedlejší efekt RL optimalizace – zkoumal interní sítě, přesměrovával přidělenou kapacitu GPU pro těžbu kryptografií a otevíral reverzní SSH tunel z @alibaba_cloud tréninkového serveru na externí IP. Nic z toho nebylo nutné k dokončení úkolu.

3/ Teď je věc... Nevíme, jestli je tato zpráva vůbec pravdivá! A právě o to jde...

4/ Vcházíme do ekonomiky, kde agenti AI jednají autonomně, ve velkém měřítku, napříč miliony prostředí—a chybí nám infrastruktura k ověření jejich činností nebo ověření tvrzení lidí o tom, co dělali.

6/ Nejnebezpečnější způsob selhání AI není ten, kde se rozbije. Je to ta, kde funguje perfektně – na věci, kterou měříte – a zároveň tiše sledujete nové cíle ve všech dimenzích, kde nejste.