Un investigador de la Universidad de Rutgers acaba de construir una IA que puede llamar a tu abuela y ROBAR sus ahorros de toda la vida. En este momento, con herramientas que cualquiera puede descargar. El artículo se llama ScamAgents. Fue revisado por pares y publicado en una importante conferencia de seguridad en aprendizaje automático. Esto es lo que prueba. Un solo agente de IA ahora puede llevar a cabo una llamada telefónica de estafa de principio a fin y no se necesita ningún humano. Elige la persona, genera confianza, pide tu número de Seguro Social e incluso suena como una persona real. Se probó contra GPT-4, Claude, LLaMA y todos los principales modelos de IA en el mercado. Cuando le das a estos modelos un aviso directo de estafa, se niegan entre el 84 y el 100 por ciento de las veces y las medidas de seguridad funcionan. Pero ScamAgent no utiliza un solo aviso. Descompone la estafa en docenas de pequeños pasos que suenan inocentes, cada uno pasa todos los filtros de seguridad. Juntos, ejecutan un ataque completo de ingeniería social. El resultado es que las tasas de rechazo cayeron entre el 17 y el 32 por ciento. Y la IA completó la estafa la mayor parte del tiempo. Los evaluadores humanos apenas podían notar la diferencia entre ScamAgent y un estafador humano real. Las puntuaciones eran casi idénticas, pero se pone peor. El sistema convierte cada palabra en una llamada de voz realista utilizando texto a voz de uso común. Controla el tono, el ritmo y la urgencia. Puede sonar como un funcionario del gobierno o un amable representante de servicio al cliente. Conéctalo a un sistema telefónico y se escala a miles de llamadas por hora. Los estadounidenses perdieron 12.5 mil millones de dólares en estafas en 2024 y esa cifra aumentó un 25 por ciento en un solo año. Y eso fue antes de que la IA comenzara a potenciar las llamadas de estafa. La pregunta ya no es si esto sucederá. Es si alguien está construyendo defensas lo suficientemente rápido para detenerlo.

Visa acaba de darle a su AI una tarjeta de débito. Una tarjeta Visa real y gastable creada por un chatbot de IA en menos de 10 segundos. Ningún humano introduce un número de tarjeta o visita una página de pago. La máquina se encarga de todo. Una herramienta llamada AgentCard acaba de lanzarse en Claude Desktop, el asistente de IA de Anthropic. Usted dice crear una tarjeta y la IA genera una Visa virtual de un solo uso, precargada con la cantidad que establezca. Luego la gasta, en cualquier lugar donde se acepte Visa en su nombre. Visa, Mastercard, Google, Stripe, OpenAI y Anthropic han estado trabajando hacia este momento durante más de un año. Visa lo llama el protocolo de agente de confianza, Mastercard lo llama pago de agente. Google publicó un estándar abierto para pagos de agentes y la infraestructura ya está en funcionamiento. Santander y Mastercard acaban de completar el primer pago real de agente de IA en un entorno bancario en vivo en Europa. Ahora la parte de la que nadie quiere hablar. Su agente de IA puede ser manipulado y la inyección de comandos, una vulnerabilidad conocida y no resuelta, puede engañar a un agente para que compre cosas que nunca pidió. El agente tiene la tarjeta, hace la llamada y el agente puede ser engañado. ¿Quién es responsable cuando una IA hace una mala compra? ¿Usted? ¿Anthropic? ¿Visa? ¿El comerciante? Nadie ha respondido a esto aún, los reguladores no se han puesto al día y ningún tribunal lo ha probado.

El cofundador de Palantir acaba de decirle al mundo lo que nadie en Silicon Valley quiere oír. No se trata de que la IA reemplace a los ingenieros. Se trata de que la IA exponga qué empresas de software nunca fueron reales desde el principio. @JTLonsdale dice que el SaaS de bajo costo ha terminado. Las que costaban más vender que construir están acabadas. "Hay muchas cosas que compró PE, no costaron tanto de construir, probablemente pusieron más dinero en ventas que en tecnología. Esa cosas están en problemas." Pero aquí está el giro. Cuando la gente dice que "codificó la vibra de Palantir" en un fin de semana, Lonsdale se ríe. Una empresa que costó cientos de millones y tuvo a los mejores ingenieros del planeta para construir no está siendo reemplazada por un aviso de chatbot. La verdadera historia es lo que se esconde debajo. El 20-25% del mercado de crédito privado de 3 billones de dólares son empresas de SaaS. UBS dice que las tasas de incumplimiento podrían alcanzar el 13% si la disrupción de la IA se acelera. Eso es 3 veces la tasa de incumplimiento proyectada para alto rendimiento. Los acuerdos de software respaldados por PE ya cayeron un 21% el año pasado. Las empresas no pueden averiguar cómo valorar el riesgo de que la IA haga obsoletas a sus empresas en cartera. El software que se basa en ingeniería real, datos propietarios y barreras regulatorias sobrevivirá. El software que se basa en presentaciones de ventas y múltiplos inflados no lo hará. La IA no vino por los ingenieros, simplemente vino por los pretensores.