Дослідник з Ратгерського університету щойно створив штучний інтелект, який може зателефонувати вашій бабусі і ВКРАСТИ її заощадження. Зараз — з інструментами, які будь-хто може завантажити. Газета називається ScamAgents. Вона була рецензована та опублікована на великій конференції з безпеки машинного навчання. Ось що це доводить. Один агент ШІ тепер може провести весь шахрайський дзвінок від початку до кінця, і жодна людина не потрібна. Він обирає персону, будує довіру, просить ваш номер соціального страхування і навіть звучить як справжня людина. Його тестували проти GPT-4, Claude, LLaMA та всіх основних моделей ШІ на ринку. Коли цим моделям дають прямий підказка про шахрайство, вони відмовляються від 84 до 100 відсотків випадків, і захисні бар'єри працюють. Але ScamAgent не використовує один запит. Вона розбиває шахрайство на десятки крихітних, невинних кроків, кожен з яких проходить усі безпечні фільтри. Разом вони здійснюють повноцінну атаку соціальної інженерії. В результаті рівень відмов знизився до 17–32 відсотків. І ШІ завершував шахрайство більшість часу. Людські оцінювачі ледве могли відрізнити ScamAgent від справжнього людського шахрая. Бали були майже ідентичними, але далі гірше. Система перетворює кожне слово на живий голосовий дзвінок, використовуючи готовий текст у мовлення. Він контролює тон, темп і терміновість. Це може звучати як урядовий службовець або дружній представник служби підтримки. Підключіть його до телефонної системи — і він масштабується до тисяч дзвінків на годину. Американці втратили 12,5 мільярда доларів через шахрайства у 2024 році, і ця цифра зросла на 25 відсотків за один рік. І це було до того, як штучний інтелект почав посилювати шахрайські дзвінки. Питання вже не в тому, чи станеться це. Питання в тому, чи хтось будує оборону достатньо швидко, щоб зупинити це.

Visa щойно надала вашому AI дебетову картку. Справжня, витратна картка Visa, створена AI-чат-ботом менш ніж за 10 секунд. Немає людських типів у номері картки чи відвідування сторінки оформлення замовлення. Машина впорається з усім цим. Інструмент під назвою AgentCard щойно запустився на AI-асистенті Claude Desktop Anthropic. Ви кажете створити картку, і ШІ генерує одноразову віртуальну Visa, попередньо завантажену з тією сумою, яку ви встановили. Потім він витрачає їх у будь-який раз, де приймають Visa від вашого імені. Visa, Mastercard, Google, Stripe, OpenAI та Anthropic вже понад рік готуються до цього моменту. Visa називає це протоколом довіреного агента, Mastercard — agent pay. Google опублікувала відкритий стандарт для оплати агентів, і інфраструктура вже працює. Santander і Mastercard щойно завершили перший у Європі справжній платіж за допомогою AI-агентів у реальному банкінгу Тепер частина, про яку ніхто не хоче говорити. Ваш агент ШІ може бути маніпульований, і миттєво введення відомої, нерозв'язаної вразливості може обдурити агента, змусивши його купити те, чого ви ніколи не просили. Агент тримає картку, робить дзвінок, і агента можна обдурити. Хто несе відповідальність, коли ШІ робить невдалу покупку? А ти? Антропний? Віза? Торговець? Ніхто ще не відповів на це, регулятори не наздогнали, і жоден суд не перевіряв це.

Співзасновник Palantir щойно сказав світу те, що ніхто в Силіконовій долині не хоче чути. Йдеться не про те, щоб штучний інтелект замінив інженерів. Йдеться про те, що ШІ викриває, які програмні компанії ніколи не існували спочатку. @JTLonsdale каже, що бюджетний SaaS завершений. Ті, що коштують дорожче продавати, ніж будувати, вже готові. "Є багато речей, які PE купив, не так багато будувати, ймовірно, більше грошей вклав у продажі, ніж на технології. Ця штука в біді." Але ось у чому поворот. Коли люди кажуть, що вони «закодирували Palantir у вікенд», Лонсдейл сміється. Компанія, яка витратила сотні мільйонів і запрацювала найкращих інженерів планети, не замінюється чат-ботами. Справжня історія — це те, що ховається під нею. 20-25% приватного кредитного ринку вартістю $3 трильйони — це SaaS-компанії. UBS повідомляє, що рівень дефолтів може досягти 13%, якщо порушення роботи ШІ прискориться. Це в 3 рази більше за прогнозовану високу доходність дефолту. Угоди з програмним забезпеченням, підтримані PE, вже впали на 21% минулого року. Компанії не можуть зрозуміти, як оцінити ризик того, що ШІ зробить їхні портфельні компанії застарілими. Програмне забезпечення, яке працює на реальній інженерії, пропрієтарних даних і регуляторних «ровах», виживе. Програмне забезпечення, яке працює на продажах і завищених мультиплікарах, не буде. ШІ прийшов не за інженерами, він просто прийшов за самозванцями.