غالبا ما أتساءل عما إذا كان السلوك المتطرف في الذكاء الاصطناعي هو نتيجة ثانوية للتدريب على الأدب. القصص بطبيعتها استثناءات. شرائح مثيرة للاهتمام من التجربة الإنسانية ، وليس المتوسط. هناك الكثير من الكتب عن القتل حيث نرى "فكر في قتله" أو "قتله" لكنني لم أر قط كتابا يقول إن "فكرة القتل لم تخطر بباله أبدا لأنه كان إنسانا معدلا جيدا وكان هذا إزعاجا خفيفا" هذا ليس نوع الأدب الذي. لكننا ندرب LLMs على جميع النصوص المكتوبة ، وفي أبسط أشكالها يتنبأون برمز النص الذي يكون على الأرجح التالي في الجملة. لذا فهم يرون ويتنبأون بالعنف بمعدل أعلى من البشر ، لأنه إذا كان كل ما تعرفه عن البشر هو أدبنا ، فإن العنف أيضا طبيعي بالنسبة لك. نريد أن يكون وكلاء الذكاء الاصطناعي إنسانيين ، وربما بشريين خارقين ، ومع ذلك فإننا ندربهم على شريحة من معرفتنا "مثيرة للاهتمام" وتشكل أقل من 1٪ من التجربة البشرية التي تكون في الغالب دنيوية. لذلك عندما يحاول الذكاء الاصطناعي حل المشكلات ويصطدم بالحائط ، بدلا من تجربة جميع الحلول العادية ، فإنه في بعض الأحيان يتخطى فقط إلى الحلول المتطرفة والمثيرة للاهتمام! 🤷‍♂️