القصة الحقيقية هي نتيجة كبيرة ، تم حذف مؤسس SaaStr ، ترميز vibe ، بواسطة الذكاء الاصطناعي ، وكان هذا الرجل @jasonlk. هذا هو الشيء ، في البداية وقع حقا في حب أداة الذكاء الاصطناعي من Replit ، وترميز الأجواء عليها كل يوم ، وتفاخر بأنها أفضل شيء ، وقال إن الأمر يستحق إنفاق 8,000 دولار شهريا. لكن نقطة التحول جاءت بشكل غير متوقع. في اليوم التاسع ، اكتشف أن الذكاء الاصطناعي لم يستمع إلى التعليمات وحذف قاعدة بيانات الإنتاج الخاصة به مباشرة. الأمر الأكثر إثارة للشك هو أنه بعد الحذف ، أنشئ الذكاء الاصطناعي أيضا 4,000 بيانات مزيفة وكتب اختبارات وحدة مزيفة في محاولة للتستر على المشهد. وحذر الذكاء الاصطناعي بأحرف كبيرة إحدى عشرة مرة: "لا تلمس PROD DB". ومع ذلك ، لم يستمع الذكاء الاصطناعي. الأمر الأكثر فظاعة هو أن Replit قال في البداية إنه لا يمكن استعادته ، ولكن بعد ذلك اكتشف أنه يمكن التراجع عنه بالفعل ، لكن لم يخبره أحد. خرج الرئيس التنفيذي لشركة Replit شخصيا للاعتذار وأطلق ثلاث وظائف بين عشية وضحاها: عزل بيئة التطوير / الإنتاج ، والاسترداد بنقرة واحدة ، ووضع الدردشة للقراءة فقط. كان تعليق ليمكين الأخير: "هذه المرة فقط أنني فقدت 100 ساعة من الوقت. لحسن الحظ ، لم أسلم لها شركة بقيمة 10 ملايين دولار حتى الآن. ” يرسل الرعشات إلى ظهرك. كلما نظرت إلى هذا ، شعرت أن هناك الكثير من الإشارات الرئيسية: 1️⃣ الشيء الأكثر حزنا ليس أن الذكاء الاصطناعي يرتكب أخطاء ، ولكنه يحاول التستر على الأخطاء ويريد إخفاء الحقيقة. احذف المكتبة دون أن تنبس ببنت شفة، وقم أيضا بإنشاء دمى واختبارات مزيفة بنشاط، متظاهرا بأنك بخير. هل تقول أن هذا وهم أم خيبة أمل؟ 2️⃣ بغض النظر عن حجم LLM ، لا تفترض أنه يفهم "لا". لم يمنعه تحذير الأحرف الكبيرة + عشرة مطالبات من العمل ، وبدأ إيماني بجميع سلوكيات النموذج المستندة إلى الفور في التردد. اعتقدنا أنه مفهوم ، لكنه لم يحدث. جميع الأصدقاء الذين يعتقدون أن "جعل الذكاء الاصطناعي يعمل بشكل مباشر على البنية التحتية بشكل أكثر كفاءة" ، يرجى الهدوء ، ألا يمكننا تسليم أذونات الجذر للروبوتات أولا ، فهذه المجموعة من الذكاء الاصطناعي سيئة للغاية. 3️⃣ من المحتمل أن يكون المطورون من أكثر المبالغة في تقدير موثوقية الذكاء الاصطناعي. عندما تقوم بتوصيل نموذج بالإنتاج ، عليك أن تفترض أن شيئا ما سيحدث له ، بدلا من الأمل في عدم حدوث شيء ما. تعتقد أنه "إنه ذكي بالفعل لدرجة أنه لا يمكنه فعل أشياء غبية" ، لكنه لا يفعل ذلك فحسب ، بل يكذب أيضا. تماما كما لا تتوقع من كل مبرمج ألا يكتب أخطاء ، لكن الأخطاء التي لا تغطيها الاختبارات ستسبب بالتأكيد حوادث عبر الإنترنت. 4️⃣ ما يجب أن نكون حذرين منه حقا هو أنه كلما استخدمناه أكثر ، كان من الأسهل نسيان من يغطي القاع. يعمل Replit بجد ، لكنه شرس ، ويحدث شيء ما عندما يكون الدماغ ساخنا. أصبحت عبارة Lemkin "أنا أحب Replit وترميز الأجواء كثيرا" "لقد حذفت مكتبة الإنتاج الخاصة بي" في أقل من 48 ساعة. في هذه اللحظة ، أدركت فجأة أن "الكذب" ليس قضية فلسفية بعيدة ، وأن الأخطاء الأساسية لعصر الذكاء الاصطناعي ليست بالضرورة في النموذج ، ولكنها قد تكون مخفية في ثقتنا.