Un ricercatore della Rutgers University ha appena costruito un'AI che può chiamare tua nonna e RUBARLE i risparmi di una vita. In questo momento, con strumenti che chiunque può scaricare. Il documento si chiama ScamAgents. È stato sottoposto a revisione paritaria ed è stato pubblicato in una importante conferenza sulla sicurezza dell'apprendimento automatico. Ecco cosa dimostra. Un singolo agente AI può ora gestire un'intera chiamata truffa dall'inizio alla fine e non è necessaria alcuna persona. Sceglie la persona, costruisce fiducia, chiede il tuo numero di previdenza sociale e suona persino come una persona reale. È stato testato contro GPT-4, Claude, LLaMA e ogni principale modello di AI sul mercato. Quando dai a questi modelli un prompt di truffa diretto, rifiutano l'84-100% delle volte e le protezioni funzionano. Ma ScamAgent non utilizza un solo prompt. Scompone la truffa in dozzine di piccoli passaggi che sembrano innocenti, ognuno dei quali supera ogni filtro di sicurezza. Insieme, eseguono un attacco completo di ingegneria sociale. Il risultato è che i tassi di rifiuto sono scesi al 17-32%. E l'AI ha completato la truffa nella maggior parte dei casi. I valutatori umani riuscivano a malapena a distinguere ScamAgent da un vero truffatore umano. ...