En forskare vid Rutgers University har precis byggt en AI som kan ringa din mormor och STJÄLA hennes livsbesparingar. Just nu med verktyg som vem som helst kan ladda ner. Tidningen heter ScamAgents. Den granskades av kollegor och publicerades på en stor konferens om maskininlärningssäkerhet. Här är vad det bevisar att det bevisar. En enda AI-agent kan nu köra ett helt bluffsamtal från början till slut och ingen människa behövs. Den väljer personan, bygger förtroende, frågar efter ditt personnummer och låter till och med som en verklig person. Den testades mot GPT-4, Claude, LLaMA och alla större AI-modeller på marknaden. När du ger dessa modeller en direkt bluffprompt vägrar de 84 till 100 procent av gångerna och skyddsräckena fungerar. Men ScamAgent använder inte en enda prompt. Den delar upp bluffen i dussintals små, oskyldiga steg, där varje steg passerar alla säkerhetsfilter. Tillsammans genomför de en fullständig social engineering-attack. Resultatet blev att vägran sjönk till 17 till 32 procent. Och AI:n slutförde bedrägeriet för det mesta. Mänskliga utvärderare kunde knappt skilja på ScamAgent och en riktig mänsklig bedragare. Poängen var nästan identiska men det blir värre. Systemet omvandlar varje ord till ett livlikt röstsamtal med färdig text till tal. Den styr ton, tempo och brådska. Det kan låta som en myndighetsperson eller en vänlig kundtjänstrepresentant. Koppla in den i ett telefonsystem och den skalar till tusentals samtal per timme. Amerikaner förlorade 12,5 miljarder dollar på bedrägerier 2024 och den siffran ökade med 25 procent på ett enda år. Och det var innan AI började överladda bluffsamtal. Frågan är inte längre om detta kommer att ske. Det handlar om huruvida någon bygger försvar tillräckligt snabbt för att stoppa det.

Visa gav precis din AI ett betalkort. Ett riktigt, spenderbart Visa-kort skapat av en AI-chatbot på under 10 sekunder. Ingen människa skriver in ett kortnummer eller besöker en kassasida. Maskinen hanterar allt. Ett verktyg som heter AgentCard har precis lanserats på Claude Desktop Anthropics AI-assistent. Du säger att man skapar ett kort och AI:n genererar ett engångsvirtuellt Visa, förladdat med det belopp du ställt in. Sedan spenderar den pengarna, varhelst visum accepteras åt dig. Visa, Mastercard, Google, Stripe, OpenAI och Anthropic har alla byggt mot detta ögonblick i över ett år. Visa kallar det trusted agent protocol, Mastercard kallar det agent pay. Google publicerade en öppen standard för agentbetalningar och infrastrukturen är redan aktiv. Santander och Mastercard har precis slutfört Europas första riktiga AI-agentbetalning i en livebankmiljö Nu till den delen som ingen vill prata om. Din AI-agent kan manipuleras och prompt injection – en känd, olöst sårbarhet – kan lura en agent att köpa saker du aldrig bett om. Agenten håller kortet, ringer och agenten kan luras. Vem är ansvarig när en AI gör ett dåligt köp? Du? Antropisk? Visum? Köpmannen? Ingen har svarat på detta än, tillsynsmyndigheterna har inte hunnit ikapp, och ingen domstol har testat det.

Palantirs medgrundare berättade just för världen det ingen i Silicon Valley vill höra. Det handlar inte om att AI ersätter ingenjörer. Det handlar om AI som avslöjar vilka mjukvaruföretag som aldrig var verkliga från början. @JTLonsdale säger att lågpris-SaaS är färdigt. De som kostar mer att sälja än de gjorde att bygga är klara. "Det finns mycket saker som PE köpte, det krävdes inte så mycket att bygga, antagligen lade mer pengar på försäljning än teknik. Det där är i fara." Men här är twisten. När folk säger att de "vibe-kodade Palantir" under en helg skrattar Lonsdale. Ett företag som krävde hundratals miljoner och de bästa ingenjörerna på planeten att bygga håller inte på att ersättas av en chatbot-prompt. Den verkliga historien är vad som döljer sig under ytan. 20–25 % av den privata kreditmarknaden på 3 biljoner dollar är SaaS-företag. UBS säger att betalningsinställelsegraden kan nå 13 % om AI-störningarna ökar. Det är tre gånger den förväntade högavkastningsbetalningsandelen för betalning. PE-stödda mjukvaruaffärer sjönk redan med 21 % förra året. Företag kan inte lista ut hur de ska prissätta risken att AI gör deras portföljbolag föråldrade. Mjukvaran som körs på verklig ingenjörskonst, proprietär data och regulatoriska vallgravar kommer att överleva. Mjukvaran som körs på försäljningsdäck och uppblåsta multiplar kommer inte att göra det. AI kom inte för ingenjörerna, den kom helt enkelt för bedragarna.