Een onderzoeker van de Rutgers Universiteit heeft net een AI gebouwd die je grootmoeder kan bellen en HAAR levensbesparingen kan STELEN. Op dit moment, met tools die iedereen kan downloaden. Het paper heet ScamAgents. Het is peer-reviewed en gepubliceerd op een grote conferentie over machine learning beveiliging. Hier is wat het bewijst. Een enkele AI-agent kan nu een volledige scamtelefoongesprek van begin tot eind uitvoeren en er is geen mens nodig. Het kiest de persona, bouwt vertrouwen op, vraagt om je Social Security-nummer en klinkt zelfs als een echt persoon. Het is getest tegen GPT-4, Claude, LLaMA en elk belangrijk AI-model op de markt. Wanneer je deze modellen een directe scamprompt geeft, weigeren ze 84 tot 100 procent van de tijd en de veiligheidsmaatregelen werken. Maar ScamAgent gebruikt niet één prompt. Het breekt de scam op in tientallen kleine, onschuldig klinkende stappen, waarvan elke stap elke veiligheidsfilter doorstaat. Samen voeren ze een volledige sociale-engineeringaanval uit. Het resultaat is dat de weigeringen zijn gedaald tot 17 tot 32 procent. En de AI voltooide de scam het grootste deel van de tijd. Menselijke evaluatoren konden nauwelijks het verschil zien tussen ScamAgent en een echte menselijke oplichter. ...