En forskare vid Rutgers University har precis byggt en AI som kan ringa din mormor och STJÄLA hennes livsbesparingar. Just nu med verktyg som vem som helst kan ladda ner. Tidningen heter ScamAgents. Den granskades av kollegor och publicerades på en stor konferens om maskininlärningssäkerhet. Här är vad det bevisar att det bevisar. En enda AI-agent kan nu köra ett helt bluffsamtal från början till slut och ingen människa behövs. Den väljer personan, bygger förtroende, frågar efter ditt personnummer och låter till och med som en verklig person. Den testades mot GPT-4, Claude, LLaMA och alla större AI-modeller på marknaden. När du ger dessa modeller en direkt bluffprompt vägrar de 84 till 100 procent av gångerna och skyddsräckena fungerar. Men ScamAgent använder inte en enda prompt. Den delar upp bluffen i dussintals små, oskyldiga steg, där varje steg passerar alla säkerhetsfilter. Tillsammans genomför de en fullständig social engineering-attack. Resultatet blev att vägran sjönk till 17 till 32 procent. Och AI:n slutförde bedrägeriet för det mesta. Mänskliga utvärderare kunde knappt skilja på ScamAgent och en riktig mänsklig bedragare. ...