Un chercheur de l'Université Rutgers vient de créer une IA capable d'appeler votre grand-mère et de VOLER ses économies de toute une vie. En ce moment, avec des outils que n'importe qui peut télécharger. L'article s'appelle ScamAgents. Il a été évalué par des pairs et publié lors d'une grande conférence sur la sécurité en apprentissage automatique. Voici ce qu'il prouve. Un seul agent IA peut désormais mener un appel téléphonique d'escroquerie de A à Z sans qu'aucun humain ne soit nécessaire. Il choisit la personnalité, établit la confiance, demande votre numéro de sécurité sociale et sonne même comme une vraie personne. Il a été testé contre GPT-4, Claude, LLaMA et tous les principaux modèles d'IA sur le marché. Lorsque vous donnez à ces modèles une invite d'escroquerie directe, ils refusent 84 à 100 % du temps et les garde-fous fonctionnent. Mais ScamAgent n'utilise pas une seule invite. Il décompose l'escroquerie en dizaines de petites étapes innocentes, chacune passant tous les filtres de sécurité. Ensemble, elles exécutent une attaque complète d'ingénierie sociale. Le résultat est que les taux de refus ont chuté à 17 à 32 %. Et l'IA a complété l'escroquerie la plupart du temps. Les évaluateurs humains pouvaient à peine faire la différence entre ScamAgent et un vrai escroc humain. Les scores étaient presque identiques mais cela devient pire. Le système convertit chaque mot en un appel vocal réaliste en utilisant un logiciel de synthèse vocale standard. Il contrôle le ton, le rythme et l'urgence. Il peut sonner comme un fonctionnaire gouvernemental ou un représentant du service client amical. Connectez-le à un système téléphonique et il peut passer des milliers d'appels par heure. Les Américains ont perdu 12,5 milliards de dollars à cause des escroqueries en 2024 et ce chiffre a augmenté de 25 % en une seule année. Et c'était avant que l'IA ne commence à supercharger les appels d'escroquerie. La question n'est plus de savoir si cela va se produire. C'est de savoir si quelqu'un construit des défenses assez rapidement pour l'arrêter.

Visa vient de donner à votre AI une carte de débit. Une vraie carte Visa, dépensable, créée par un chatbot AI en moins de 10 secondes. Aucun humain ne saisit un numéro de carte ou ne visite une page de paiement. La machine s'occupe de tout. Un outil appelé AgentCard vient d'être lancé sur Claude Desktop, l'assistant AI d'Anthropic. Vous dites créer une carte et l'AI génère une Visa virtuelle à usage unique, préchargée avec le montant que vous définissez. Ensuite, elle dépense cet argent, partout où Visa est accepté en votre nom. Visa, Mastercard, Google, Stripe, OpenAI et Anthropic ont tous travaillé vers ce moment pendant plus d'un an. Visa l'appelle le protocole d'agent de confiance, Mastercard l'appelle paiement par agent. Google a publié une norme ouverte pour les paiements par agent et l'infrastructure est déjà en ligne. Santander et Mastercard viennent de réaliser le premier paiement réel par agent AI en Europe dans un environnement bancaire en direct. Maintenant, la partie dont personne ne veut parler. Votre agent AI peut être manipulé et l'injection de prompt, une vulnérabilité connue et non résolue, peut tromper un agent pour acheter des choses que vous n'avez jamais demandées. L'agent détient la carte, passe l'appel et l'agent peut être dupé. Qui est responsable lorsqu'un AI effectue un mauvais achat ? Vous ? Anthropic ? Visa ? Le commerçant ? Personne n'a encore répondu à cela, les régulateurs n'ont pas rattrapé leur retard, et aucun tribunal ne l'a testé.

Le co-fondateur de Palantir vient de dire au monde ce que personne à Silicon Valley ne veut entendre. Il ne s'agit pas de l'IA remplaçant les ingénieurs. Il s'agit de l'IA exposant quelles entreprises de logiciels n'ont jamais été réelles au départ. @JTLonsdale dit que le SaaS bas de gamme est fini. Celles qui coûtent plus cher à vendre qu'elles ne coûtaient à construire sont terminées. "Il y a beaucoup de choses que le capital-investissement a achetées, qui n'ont pas coûté si cher à construire, probablement plus d'argent investi dans les ventes que dans la technologie. Ces choses sont en difficulté." Mais voici le rebondissement. Quand les gens disent qu'ils ont "codé Palantir en mode vibe" en un week-end, Lonsdale rit. Une entreprise qui a coûté des centaines de millions et a mobilisé les meilleurs ingénieurs de la planète ne sera pas remplacée par une invite de chatbot. La vraie histoire est ce qui se cache en dessous. 20-25 % du marché du crédit privé de 3 trillions de dollars sont des entreprises SaaS. UBS dit que les taux de défaut pourraient atteindre 13 % si la disruption par l'IA s'accélère. C'est 3 fois le taux de défaut prévu pour les obligations à haut rendement. Les transactions de logiciels soutenues par le capital-investissement ont déjà chuté de 21 % l'année dernière. Les entreprises ne parviennent pas à déterminer comment évaluer le risque que l'IA rende leurs entreprises de portefeuille obsolètes. Les logiciels qui reposent sur une véritable ingénierie, des données propriétaires et des protections réglementaires survivront. Les logiciels qui reposent sur des présentations commerciales et des multiples gonflés ne survivront pas. L'IA n'est pas venue pour les ingénieurs, elle est simplement venue pour les imposteurs.