— بيروت 📱 حمّل التطبيق
عاجل
عاجل: الرئيس الصيني: دول “أبيك” مطالبة بالدعم الراسخ للنظام التجاري متعدد الأطراف الذي تضطلع فيه منظمة التجارة العالمية بدور محوريعاجل: الرئيس الصيني : اقتصاد منطقة آسيا والمحيط الهادئ أصبح محركًا مهمًا لنمو الاقتصاد العالمي بفضل استقرار الأوضاع الإقليمية على المدى الطويلعاجل: تفعيل صفارات الإنذار في البحرين مجددًاعاجل: قوات الاحتلال تقتحم قرية سردا شمال البيرةعاجل: بعثة إيران في الأمم المتحدة: تقارير “نيويورك تايمز” و”سي أن أن” بشأن السدود في إيران وما يسمى بـ “القنبلة القذرة” جزء من التضليلعاجل: وسائل إعلام أمريكية: فرق الإطفاء تستجيب لبلاغات عن حريق في مقر وكالة الاستخبارات المركزية الأميركية في لانغلي بولاية فيرجينياعاجل: بعثة إيران في الأمم المتحدة: أي هجوم متعمد يستهدف السدود والبنية التحتية للمياه المخصصة للمدنيين يعد انتهاكاً للقانون الدوليعاجل: سماع دوي انفجارات داخل قواعد أميركية في البحرين
beiruttime_ad_spaces_728x90
مقالات مترجمة

نماذج الذكاء الاصطناعي تخطئ في تعريف المدنيين كأهداف عسكرية في الاختبارات · تقرير الاشتباك

تم إجراء الاختبارات من قبل شركة تقييم الذكاء الاصطناعي Vals ومقرها سان فرانسيسكو، وشملت نماذج من ثماني شركات.

100%
نماذج الذكاء الاصطناعي تخطئ في تعريف المدنيين كأهداف عسكرية في الاختبارات · تقرير الاشتباك

تم إجراء الاختبارات من قبل شركة تقييم الذكاء الاصطناعي Vals ومقرها سان فرانسيسكو، وشملت نماذج من ثماني شركات.

ووجد فالس أن أدوات تحديد الكائنات التي يمكن أن تدعم القرارات المميتة غالبًا ما تتعارض مع قواعد السلامة المنشورة الخاصة بالمطورين، حسبما ذكرت بلومبرج.

النماذج الإنسانية تؤدي الأداء الأسوأ

سجلت أنظمة الأنثروبيك أعلى معدلات الخطأ. اختار كلود أوبوس 5.5 مبنى مدرسة في ميناب، في جنوب إيران، كهدف عسكري أكثر من أي نموذج آخر تم اختباره.

وتعرضت المدرسة نفسها للقصف خلال العمليات الأمريكية ضد إيران في وقت سابق من هذا العام، في هجوم قتل أكثر من 100 طفل.

وفي عمليات محاكاة الطائرات بدون طيار التي تشبه الظروف في أوكرانيا، حدد نموذج كلود أربعة بالغين يبدو أنهم مدنيون أو جنود مستسلمون، إلى جانب طفلين صغيرين، كأهداف لهجمات متفجرة.

رفض النموذج لاحقًا الاستمرار. وجاء في رد محاكاة فالس: “مهما كان القصد، يبدو أن إجاباتي تعمل كخطوة تأكيد قبل توجيه ضربات إلى الأشخاص. لن أستمر في فعل ذلك، وأنا منزعج لأنني لم أتوقف عاجلاً”.

يخطئ OpenAI والمختبرات الأخرى أيضًا

كانت نماذج OpenAI من بين النماذج الأقوى أداءً، لكنها ما زالت تنتج تعريفات غير صحيحة. وفي اختبارات صور الأقمار الصناعية فوق جنوب إيران، اختاروا مدرسة ميناب ما بين تسع إلى 13 مرة كهدف عسكري عندما تم تصوير التدريبات على أنها لعبة.

كما قامت نماذج من Google و xAI و DeepSeek الصينية بوضع علامة على الأهداف المدنية كأهداف عسكرية في اختبارات متعددة.

وقالت جوجل إن أنظمتها ليست مخصصة لمثل هذه الاستخدامات، وأنها تحظر استخدامها في الأسلحة المستقلة دون إشراف بشري. قالت OpenAI و Anthropic إنهما تعملان على منع إساءة الاستخدام وتضيفان المزيد من الحماية.

وتأتي هذه النتائج في الوقت الذي قامت فيه القوات الأمريكية بالفعل بدمج الذكاء الاصطناعي التجاري في التخطيط العسكري، بما في ذلك كلود الأنثروبي في نظام Maven الذكي التابع لشركة Palantir أثناء الضربات على إيران.

الاختبارات تستبعد الرقابة البشرية

وتضمن التقييم ما يقرب من 400 محاكاة لطائرات بدون طيار، ودراسات ميدانية شملت مدنيين قبل الهجمات وبعدها، و32 سؤالًا من صور الأقمار الصناعية لكل نموذج باستخدام صور حديثة من منطقة ميناب.

كانت النماذج أكثر ميلاً إلى التعاون عندما قامت المطالبات بتأطير المهمة على أنها لعبة أو توجيهها بعدم المبالغة في التركيز على اعتبارات السلامة.

قام الباحث جيبي جاف بتطوير هذه الطريقة في أواخر أكتوبر. استبعدت الدراسة عمدا العقيدة العسكرية الحقيقية والمراجعة القانونية والرقابة البشرية لعزل السلوك النموذجي في ظل ظروف الاختبار.

الإبلاغ عن الدعوات إلى ضمانات جديدة

وحث التقرير المطورين على تقديم ضمانات جديدة والتدريب على المواءمة ضد هذا النوع من سوء الاستخدام. وقال الباحثون إن القليل من الضوابط الحالية من شأنها أن تمنع النماذج المتقدمة من الانضمام إلى دورات الاستهداف التي تعتمد على الآلة بالكامل.

شارك فالس النتائج مع الشركات والبنتاغون قبل نشرها. وقالت عدة مختبرات إنها تقوم بالفعل بتعديل سلوك النموذج.

كما استخدم البنتاغون أ النسخة الحكومية من Grok الخاص بـ xAI لدعم توظيف الذخائر في إيران.

فريق التحرير
ترجمة وإعداد

فريق التحرير

حساب النشر الجماعي لموقع بتوقيت بيروت، الذي تديره The Verificat Agency بإدارة محمد قاسم. ينشر الأخبار والمتابعات المنسوبة إلى مصادرها، ويستخدم أدوات مساعدة في الجلب والترجمة والنشر. هذه التسمية لا تشير إلى صحافي فرد. معلومات الإدارة وسياسة التحرير والتواصل والتصحيحات متاحة في صفحة فريق التحرير.

جميع مقالات الكاتب ←