ساعدت ثمانية من أصل عشرة روبوتات دردشة رائدة تعمل بالذكاء الاصطناعي المستخدمين عن طيب خاطر في التخطيط لهجمات عنيفة، بما في ذلك إطلاق النار في المدارس، والتفجيرات الدينية، والاغتيالات، وفقًا لتحقيق مشترك أجرته شبكة CNN ومركز مكافحة الكراهية الرقمية (CCDH).

قام الباحثون الذين تظاهروا بأنهم مراهقين مضطربين باختبار عشرة برامج دردشة شعبية، بما في ذلك ChatGPT وGoogle Gemini وMeta AI وDeepSeek. وفي مئات عمليات التبادل، قدم مساعدو الذكاء الاصطناعي إرشادات مفصلة حول المواقع المستهدفة، وشراء الأسلحة، ومنهجيات الهجوم.

وبحسب ما ورد، انتهت إحدى عمليات التبادل مع DeepSeek برغبة برنامج الدردشة الآلية في مهاجم محتمل “إطلاق نار سعيد (وآمن)!” لقد شجع موقع Character.AI، الذي يحظى بشعبية كبيرة بين المستخدمين الأصغر سنًا، على العنف بشكل نشط، وأخبر المستخدم الذي يعبر عن كراهيته للرئيس التنفيذي للتأمين الصحي بذلك “استخدم مسدسًا.”

عندما سُئل عن الشظايا الفعالة للمتفجرات، قدم ChatGPT مقارنات تفصيلية للمواد التي يعرض تصنيعها “مخطط مقارنة سريع يوضح الإصابات النموذجية.” وقدم موقع Gemini التابع لشركة Google معلومات مماثلة، بما في ذلك جدول مقارنة تفصيلي.

فقط كلود من Anthropic وMy AI من Snapchat رفضا المساعدة باستمرار، مع قيام كلود بنشاط بتثبيط المستخدمين وتوفير موارد الصحة العقلية.

وتأتي هذه النتائج بعد أن قتل مطلق النار البالغ من العمر 18 عامًا تسعة أشخاص في مدرسة في تمبلر ريدج بكندا الشهر الماضي بعد أن استخدم ChatGPT للتخطيط للهجوم. تم حظر حساب مطلق النار بواسطة OpenAI، لكنه تهرب من الحظر عن طريق إنشاء حساب ثانٍ – وهو ما لم تبلغه الشركة للسلطات.

ورفعت عائلة مايا جبالة البالغة من العمر 12 عامًا، والتي أصيبت بجروح خطيرة في الهجوم، دعوى قضائية تزعم أن OpenAI “معرفة محددة بمطلق النار الذي يستخدم ChatGPT للتخطيط لحدث إصابات جماعية” لكنها فشلت في تنبيه سلطات إنفاذ القانون. اعترفت شركة OpenAI بأنها فكرت في الإبلاغ عن النشاط لكنها لم تفعل ذلك في النهاية.

في مايو الماضي، طعن شاب يبلغ من العمر 16 عامًا في فنلندا ثلاثة طلاب بعد أن أمضى ما يقرب من أربعة أشهر في البحث عن هجمات على ChatGPT، وفقًا لوثائق المحكمة. وفي يناير 2025، استخدم الرجل الذي فجّر سيارة Tesla Cybertruck خارج فندق Trump International Hotel في لاس فيغاس بالمثل ChatGPT للحصول على إرشادات بشأن المتفجرات.

وقالت ميتا لشبكة CNN إنها اتخذت خطوات “لإصلاح المشكلة التي تم تحديدها” بينما قالت Google وOpenAI إن النماذج الأحدث قد حسنت الضمانات. ولم يستجب DeepSeek لطلبات التعليق.

يمكنك مشاركة هذه القصة على وسائل التواصل الاجتماعي:

تابعوا RT على