Дослідник з Ратгерського університету щойно створив штучний інтелект, який може зателефонувати вашій бабусі і ВКРАСТИ її заощадження. Зараз — з інструментами, які будь-хто може завантажити. Газета називається ScamAgents. Вона була рецензована та опублікована на великій конференції з безпеки машинного навчання. Ось що це доводить. Один агент ШІ тепер може провести весь шахрайський дзвінок від початку до кінця, і жодна людина не потрібна. Він обирає персону, будує довіру, просить ваш номер соціального страхування і навіть звучить як справжня людина. Його тестували проти GPT-4, Claude, LLaMA та всіх основних моделей ШІ на ринку. Коли цим моделям дають прямий підказка про шахрайство, вони відмовляються від 84 до 100 відсотків випадків, і захисні бар'єри працюють. Але ScamAgent не використовує один запит. Вона розбиває шахрайство на десятки крихітних, невинних кроків, кожен з яких проходить усі безпечні фільтри. Разом вони здійснюють повноцінну атаку соціальної інженерії. В результаті рівень відмов знизився до 17–32 відсотків. І ШІ завершував шахрайство більшість часу. Людські оцінювачі ледве могли відрізнити ScamAgent від справжнього людського шахрая. ...