Un cercetător de la Universitatea Rutgers tocmai a construit o inteligență artificială care poate să-ți sune bunica și să-i FURE economiile de-o viață. Chiar acum, cu unelte pe care oricine le poate descărca. Ziarul se numește ScamAgents. A fost evaluat de colegi și publicat la o conferință majoră de securitate în învățarea automată. Iată ce dovedește. Un singur agent AI poate acum să ruleze un întreg apel telefonic de la început până la sfârșit și nu este nevoie de niciun om. Alege persona, construiește încredere, îți cere numărul de asigurare socială și chiar sună ca o persoană reală. A fost testat împotriva GPT-4, Claude, LLaMA și a tuturor modelelor majore de inteligență artificială de pe piață. Când le dai acestor modele un prompt direct de înșelătorie, ele refuză 84 până la 100% din cazuri și sistemele funcționează. Dar ScamAgent nu folosește un singur prompt. Împarte escrocheria în zeci de pași mici, care sună inocent, fiecare trecând de toate filtrele de siguranță. Împreună, execută un atac complet de inginerie socială. Rezultatul este că rata de refuz a scăzut la 17 până la 32 la sută. Și AI-ul a făcut escrocheria de cele mai multe ori. Evaluatorii umani abia puteau face diferența între ScamAgent și un escroc uman real. Scorurile au fost aproape identice, dar situația se înrăutățește. Sistemul transformă fiecare cuvânt într-un apel vocal realist, folosind textul vocal gata de utilizare. Controlează tonul, ritmul și urgența. Poate suna ca un oficial guvernamental sau un reprezentant prietenos al serviciului clienți. Conectează-l la un sistem telefonic și se scalează la mii de apeluri pe oră. Americanii au pierdut 12,5 miliarde de dolari din cauza escrocheriilor în 2024, iar acest număr a crescut cu 25% într-un singur an. Și asta a fost înainte ca AI să înceapă să supraalimenteze apelurile de tip scam. Întrebarea nu mai este dacă acest lucru se va întâmpla. Este dacă cineva construiește apărări suficient de repede pentru a o opri.

Visa tocmai i-a dat AI-ului tău un card de debit. Un card Visa real, cheltuibil, creat de un chatbot AI în mai puțin de 10 secunde. Niciun om nu scrie un număr de card sau nu vizitează o pagină de checkout. Mașina se ocupă de tot. Un instrument numit AgentCard tocmai a fost lansat pe asistentul AI al Claude Desktop Anthropic. Spui să creezi un card și AI-ul generează o Visa virtuală unică, preîncărcată cu suma setată. Apoi o cheltuie, oriunde este acceptată viza în numele tău. Visa, Mastercard, Google, Stripe, OpenAI și Anthropic au construit toate spre acest moment de peste un an. Visa îl numește protocolul agent de încredere, Mastercard îl numește agent pay. Google a publicat un standard deschis pentru plățile agenților, iar infrastructura este deja activă. Santander și Mastercard tocmai au finalizat prima plată reală a unui agent AI din Europa într-un mediu bancar live Acum partea despre care nimeni nu vrea să vorbească. Agentul tău AI poate fi manipulat, iar injectarea rapidă a unei vulnerabilități cunoscute și nerezolvate poate păcăli agentul să cumpere lucruri pe care nu le-ai cerut niciodată. Agentul deține cardul, face apelul și agentul poate fi păcălit. Cine este responsabil când un AI face o achiziție greșită? Tu? Anthropic? Viză? Negustorul? Nimeni nu a răspuns încă la această întrebare, autoritățile de reglementare nu au ajuns la curent și nicio instanță nu a testat problema.

Cofondatorul Palantir tocmai a spus lumii ceea ce nimeni din Silicon Valley nu vrea să audă. Nu este vorba despre AI care înlocuiește inginerii. Este despre AI care dezvăluie ce companii de software nu au existat niciodată de la bun început. @JTLonsdale spune că SaaS-ul de nivel inferior s-a terminat. Cele care au costat mai mult de vândut decât de construit sunt gata. "Sunt multe lucruri pe care le-a cumpărat PE, nu a durat prea mult să le construiască, probabil a investit mai mult în vânzări decât în tehnologie. Chestia aia e în pericol." Dar iată răsturnarea de situație. Când oamenii spun că au "codificat vibe cod Palantir" într-un weekend, Lonsdale râde. O companie care a necesitat sute de milioane și cei mai buni ingineri de pe planetă pentru a o construi nu va fi înlocuită de un prompt de chatbot. Povestea reală este ceea ce se ascunde dedesubt. 20-25% din piața de credit privat de 3 trilioane de dolari este formată din companii SaaS. UBS spune că ratele de neplată ar putea ajunge la 13% dacă perturbarea AI se accelerează. Aceasta este de 3 ori rata estimată de neplată la randament ridicat. Tranzacțiile software susținute de PE au scăzut deja cu 21% anul trecut. Firmele nu reușesc să stabilească cum să evalueze riscul ca AI-ul să facă companiile din portofoliul lor depășite. Software-ul care rulează pe inginerie reală, date proprietare și șanțuri de reglementare va supraviețui. Software-ul care rulează pe platforme de vânzări și multipli umflați nu o va face. AI nu a venit pentru ingineri, a venit pur și simplu pentru pretendenți.