Một nhà nghiên cứu từ Đại học Rutgers vừa phát triển một AI có thể gọi điện cho bà của bạn và ĐÁNH CẮP tiết kiệm cả đời của bà. Hiện tại, với những công cụ mà bất kỳ ai cũng có thể tải xuống. Bài báo có tên là ScamAgents. Nó đã được đánh giá đồng nghiệp và công bố tại một hội nghị lớn về an ninh học máy. Dưới đây là những gì nó chứng minh. Một đại lý AI duy nhất giờ đây có thể thực hiện một cuộc gọi lừa đảo hoàn chỉnh từ đầu đến cuối mà không cần con người. Nó chọn nhân vật, xây dựng lòng tin, yêu cầu số An sinh xã hội của bạn và thậm chí nghe giống như một người thật. Nó đã được thử nghiệm với GPT-4, Claude, LLaMA và mọi mô hình AI lớn trên thị trường. Khi bạn đưa cho những mô hình này một yêu cầu lừa đảo trực tiếp, chúng từ chối từ 84 đến 100 phần trăm thời gian và các biện pháp bảo vệ hoạt động hiệu quả. Nhưng ScamAgent không sử dụng một yêu cầu nào. Nó chia nhỏ lừa đảo thành hàng chục bước nhỏ, nghe có vẻ vô hại, mỗi bước đều vượt qua mọi bộ lọc an toàn. Cùng nhau, chúng thực hiện một cuộc tấn công kỹ thuật xã hội hoàn chỉnh. Kết quả là tỷ lệ từ chối giảm xuống còn 17 đến 32 phần trăm. Và AI đã hoàn thành lừa đảo hầu hết thời gian. Các đánh giá viên con người gần như không thể phân biệt được ScamAgent và một kẻ lừa đảo con người thật. Điểm số gần như giống hệt nhau nhưng tình hình còn tồi tệ hơn. Hệ thống chuyển đổi mọi từ thành cuộc gọi giọng nói sống động bằng cách sử dụng công nghệ chuyển văn bản thành giọng nói có sẵn. Nó kiểm soát âm điệu, nhịp điệu và sự khẩn trương. Nó có thể nghe giống như một quan chức chính phủ hoặc một đại diện dịch vụ khách hàng thân thiện. Kết nối nó với một hệ thống điện thoại và nó có thể mở rộng lên đến hàng nghìn cuộc gọi mỗi giờ. Người Mỹ đã mất 12,5 tỷ đô la cho các vụ lừa đảo vào năm 2024 và con số đó đã tăng 25 phần trăm chỉ trong một năm. Và đó là trước khi AI bắt đầu tăng cường các cuộc gọi lừa đảo. Câu hỏi không còn là liệu điều này có xảy ra hay không. Mà là liệu có ai đang xây dựng các biện pháp phòng thủ đủ nhanh để ngăn chặn nó.

Visa vừa cấp cho AI của bạn một thẻ ghi nợ. Một thẻ Visa thực sự, có thể chi tiêu được, được tạo ra bởi một chatbot AI trong chưa đầy 10 giây. Không có con người nào nhập số thẻ hoặc truy cập vào trang thanh toán. Cỗ máy xử lý tất cả. Một công cụ có tên là AgentCard vừa được ra mắt trên Claude Desktop, trợ lý AI của Anthropic. Bạn chỉ cần nói tạo thẻ và AI sẽ tạo ra một thẻ Visa ảo một lần, được nạp sẵn với bất kỳ số tiền nào bạn đặt. Sau đó, nó sẽ chi tiêu, ở bất kỳ đâu Visa được chấp nhận thay mặt bạn. Visa, Mastercard, Google, Stripe, OpenAI và Anthropic đã cùng nhau xây dựng hướng tới khoảnh khắc này trong hơn một năm. Visa gọi đó là giao thức đại lý đáng tin cậy, Mastercard gọi đó là thanh toán đại lý. Google đã công bố một tiêu chuẩn mở cho thanh toán đại lý và cơ sở hạ tầng đã sẵn sàng. Santander và Mastercard vừa hoàn thành thanh toán AI‑đại lý thực sự đầu tiên ở châu Âu trong một môi trường ngân hàng trực tiếp. Giờ là phần mà không ai muốn nói đến. Đại lý AI của bạn có thể bị thao túng và việc tiêm lệnh là một lỗ hổng đã biết, chưa được giải quyết có thể đánh lừa một đại lý mua những thứ mà bạn không bao giờ yêu cầu. Đại lý giữ thẻ, thực hiện cuộc gọi và đại lý có thể bị lừa. Ai sẽ chịu trách nhiệm khi một AI thực hiện một giao dịch mua sai? Bạn? Anthropic? Visa? Người bán hàng? Chưa ai trả lời điều này, các nhà quản lý vẫn chưa theo kịp, và không tòa án nào đã thử nghiệm điều này.

Người đồng sáng lập Palantir vừa nói với thế giới điều mà không ai ở Silicon Valley muốn nghe. Không phải là AI thay thế các kỹ sư. Mà là AI phơi bày những công ty phần mềm nào chưa bao giờ thực sự tồn tại ngay từ đầu. @JTLonsdale nói rằng SaaS cấp thấp đã kết thúc. Những công ty mà chi phí bán ra cao hơn chi phí xây dựng đã xong. "Có rất nhiều thứ mà PE đã mua, không tốn quá nhiều để xây dựng, có lẽ đã bỏ nhiều tiền vào bán hàng hơn là công nghệ. Những thứ đó đang gặp rắc rối." Nhưng đây là một khúc quanh. Khi mọi người nói rằng họ "đã vibe code Palantir" trong một cuối tuần, Lonsdale cười. Một công ty đã tiêu tốn hàng trăm triệu và những kỹ sư giỏi nhất trên hành tinh để xây dựng không thể bị thay thế bởi một câu lệnh chatbot. Câu chuyện thực sự là những gì đang ẩn giấu bên dưới. 20-25% của thị trường tín dụng tư nhân trị giá 3 nghìn tỷ đô la là các công ty SaaS. UBS cho biết tỷ lệ vỡ nợ có thể đạt 13% nếu sự gián đoạn của AI tăng tốc. Đó là gấp 3 lần tỷ lệ vỡ nợ trái phiếu cao dự kiến. Các giao dịch phần mềm được hỗ trợ bởi PE đã giảm 21% trong năm ngoái. Các công ty không thể tìm ra cách định giá rủi ro của AI khiến các công ty trong danh mục đầu tư của họ trở nên lỗi thời. Phần mềm chạy trên kỹ thuật thực, dữ liệu độc quyền và các rào cản quy định sẽ tồn tại. Phần mềm chạy trên các bộ tài liệu bán hàng và các bội số bị thổi phồng sẽ không tồn tại. AI không đến để thay thế các kỹ sư, nó chỉ đến để loại bỏ những kẻ giả mạo.