Um pesquisador da Universidade Rutgers acabou de criar uma IA que pode ligar para sua avó e ROUBAR suas economias de uma vida. Agora, com ferramentas que qualquer um pode baixar. O jornal se chama ScamAgents. Foi revisado por pares e publicado em uma grande conferência de segurança em aprendizado de máquina. Aqui está o que isso prova. Um único agente de IA agora pode rodar uma ligação inteira de golpe do início ao fim e nenhum humano é necessário. Ele escolhe a persona, constrói confiança, pede seu número do Seguro Social e até soa como uma pessoa real. Foi testado contra GPT-4, Claude, LLaMA e todos os principais modelos de IA do mercado. Quando você dá um aviso direto para esses modelos, eles recusam de 84 a 100% das vezes e as barreiras funcionam. Mas o ScamAgent não usa um único prompt. Divide o golpe em dezenas de pequenos passos que parecem inocentes, cada um passando por todos os filtros de segurança. Juntos, executam um ataque completo de engenharia social. O resultado é que as taxas de recusa caíram para 17 a 32%. E a IA completava o golpe na maioria das vezes. Avaliadores humanos mal conseguiam diferenciar um ScamAgent de um golpista humano de verdade. ...