باحث في جامعة روتجرز بنى للتو ذكاء اصطناعيا يمكنه الاتصال بجدتك وسرقة مدخراتها في الحياة. حاليا، مع أدوات يمكن لأي شخص تحميلها. الورقة تسمى ScamAgents. تمت مراجعته من قبل الأقران ونشره في مؤتمر رئيسي لأمن تعلم الآلة. إليك ما يثبته ذلك. يمكن لعميل ذكاء اصطناعي واحد الآن إجراء مكالمة احتيالية كاملة من البداية للنهاية ولا حاجة لأي إنسان. يختار الشخصية، يبني الثقة، يطلب رقم الضمان الاجتماعي الخاص بك وحتى يبدو كشخص حقيقي. تم اختباره ضد GPT-4 وClaude وLLaMA وكل نماذج ذكاء اصطناعي رئيسية في السوق. عندما تعطي هذه النماذج رسالة احتيال مباشرة، ترفضون 84 إلى 100 بالمئة من الوقت وتعمل الحواجز الواقية. لكن ScamAgent لا يستخدم أي توجيه. يقسم الخدعة إلى عشرات الخطوات الصغيرة التي تبدو بريئة، كل خطوة تمر بكل مرشح أمان. معا، ينفذان هجوما كاملا على الهندسة الاجتماعية. والنتيجة أن معدلات الرفض انخفضت إلى 17 إلى 32 بالمئة. وكان الذكاء الاصطناعي يكمل عملية الاحتيال معظم الوقت. المقيمون البشريون بالكاد يستطيعون التمييز بين ScamAgent والمحتال البشري الحقيقي. كانت الدرجات شبه متطابقة لكن الأمر يزداد سوءا. يحول النظام كل كلمة إلى مكالمة صوتية واقعية باستخدام نص جاهز إلى كلام. تتحكم في النبرة، الإيقاع، والإلحاح. قد يبدو الأمر وكأنه مسؤول حكومي أو ممثل خدمة عملاء ودود. قم بتوصيله بنظام هاتف وسيتوسع ليصل إلى آلاف المكالمات في الساعة. خسر الأمريكيون 12.5 مليار دولار بسبب عمليات الاحتيال في عام 2024، وارتفع هذا الرقم بنسبة 25 بالمئة في عام واحد. وكان ذلك قبل أن يبدأ الذكاء الاصطناعي في تعزيز مكالمات الاحتيال. لم يعد السؤال هو ما إذا كان هذا سيحدث. الأمر يتعلق بما إذا كان هناك من يبني دفاعات بسرعة كافية لإيقافه.

فيزا أعطت الذكاء الاصطناعي الخاص بك بطاقة خصم فقط. بطاقة فيزا حقيقية وقابلة للإنفاق أنشأها روبوت دردشة ذكاء اصطناعي في أقل من 10 ثوان. لا يوجد أشخاص يضيفون رقم بطاقة أو يزورون صفحة دفع. الآلة تتولى كل شيء. أداة تدعى AgentCard أطلقت للتو على مساعد الذكاء الاصطناعي الخاص ب Claude Desktop Anthropic. تقول إنشئ بطاقة ويقوم الذكاء الاصطناعي بإنشاء فيزا افتراضية لمرة واحدة، محملة مسبقا بالمبلغ الذي تحدده. ثم ينفقها، في أي مكان يتم فيه قبول التأشيرة نيابة عنك. فيزا، ماستركارد، جوجل، سترايب، OpenAI، وأنثروبيك جميعها تبني نحو هذه اللحظة لأكثر من عام. فيزا تسميه بروتوكول الوكيل الموثوق، وماستركارد تسميه وكيل الدفع. نشرت جوجل معيارا مفتوحا لدفع الوكلاء والبنية التحتية موجودة بالفعل. أكملت سانتاندر وماستركارد للتو أول عملية دفع حقيقية من خلال وكيل الذكاء الاصطناعي في أوروبا في بيئة مصرفية حية الآن الجزء الذي لا يريد أحد التحدث عنه. يمكن التلاعب بوكيل الذكاء الاصطناعي الخاص بك، وحقن ثغرة معروفة لم تحل يمكن أن يخدع العميل لشراء أشياء لم تطلبها أبدا. الوكيل يمسك بالورقة، ويصدر القرار ويمكن خداع الوكيل. من المسؤول عندما يقوم الذكاء الاصطناعي بعملية شراء سيئة؟ وأنت؟ أنثروبية؟ تأشيرة؟ التاجر؟ لم يجب أحد على هذا السؤال بعد، ولم يلحق المنظمون بعد، ولم تختبره أي محكمة.

المؤسس المشارك لبالانتير أخبر العالم للتو بشيء لا يريد أحد في وادي السيليكون سماعه. الأمر ليس عن الذكاء الاصطناعي الذي يحل محل المهندسين. الأمر يتعلق بالذكاء الاصطناعي بكشف أي شركات البرمجيات لم تكن حقيقية أصلا. @JTLonsdale يقول إن SaaS المنخفض قد انتهى. أما المحطات التي تكلف بيعها أكثر من تكلفة البناء قد انتهت. "هناك الكثير من الأشياء التي اشترتها PE، ولم يستغرق بنائها الكثير من الجهد، ربما استثمرت أموالا أكثر في المبيعات مقارنة بالتقنية. تلك الأشياء في ورطة." لكن هنا المفاجأة. عندما يقول الناس إنهم "يكونون بالانتير برمز الطابع" في عطلة نهاية الأسبوع، يضحك لونزديل. شركة استغرقت مئات الملايين وأفضل المهندسين على الأرض لبنائها لا يتم استبدالها بطلب من روبوت دردشة. القصة الحقيقية هي ما يختبئ تحتها. 20-25٪ من سوق الائتمان الخاص الذي تبلغ قيمته 3 تريليون دولار هي شركات SaaS. تقول UBS إن معدلات التخلف عن السداد قد تصل إلى 13٪ إذا تسارع اضطراب الذكاء الاصطناعي. هذا يعادل ثلاثة أضعاف معدل التخلف عن السداد المتوقع للعائد العالي. انخفضت صفقات البرمجيات المدعومة من المهندسين الخاصين بالفعل بنسبة 21٪ العام الماضي. الشركات لا تستطيع معرفة كيفية تسعير مخاطر الذكاء الاصطناعي الذي يجعل شركات محفظتها قديمة. البرمجيات التي تعمل على الهندسة الحقيقية، والبيانات المملوكة، والخنادق التنظيمية ستبقى. البرمجيات التي تعمل على منصات المبيعات والمضاعفات المنتفخة لن تعمل. الذكاء الاصطناعي لم يأت من أجل المهندسين، بل جاء فقط من أجل المدعين.