كييف، أوكرانيا – في اليوم الأول من الحرب الأمريكية الإيرانية، ضرب صاروخ كروز توماهوك مدرسة شجرة طيبة الابتدائية في ميناب، جنوب إيران. وقُتل ما لا يقل عن 168 شخصاً، أكثر من 100 منهم تحت سن 12 عاماً، وفقاً لمسؤولين في الأمم المتحدة وإيران.

يقع مبنى المدرسة على بعد أقل من 100 ياردة من منشأة بحرية تابعة للحرس الثوري الإسلامي منذ فترة طويلة، وكان يقع سابقًا داخل محيط مجمع الحرس الثوري الإيراني حتى ظهر جدار بين عامي 2013 و2016، وفقًا لتحليل صور الأقمار الصناعية الذي أجراه منظمة العفو الدولية.

وبحلول الوقت الذي شنت فيه الولايات المتحدة وإسرائيل ضرباتهما الأولى في 28 فبراير/شباط، كانت المدرسة قد أنشئت قبل عدة سنوات. وكانت نشطة على وسائل التواصل الاجتماعي وكان لها موقعها الإلكتروني الخاص، أ رويترز وجد التحقيق.

إذن ما الخطأ الذي حدث؟

“هل تم استخدام الذكاء الاصطناعي، بما في ذلك استخدام نظام مافن الذكي، لتحديد مدرسة الشجرة الطيبة كهدف؟” سأل أكثر من 120 عضوًا ديمقراطيًا في مجلس النواب في أ رسالة 12 مارس إلى البنتاغون، بعد أيام فقط من إرسال 46 عضوًا ديمقراطيًا في مجلس الشيوخ رسالة طلب مماثل مطالبين بالوضوح بشأن الضربة القاتلة.

ال نظام مافن الذكيتم إنشاء منصة الاستهداف والاستخبارات التي أنشأتها شركة تحليل البيانات Palantir Technologies بموجب عقد مع البنتاغون بقيمة 1.3 مليار دولار، لحل مشكلة تزايدت بشكل كبير في السنوات الأخيرة: الحمل الزائد للمعلومات – مع استخدام الذكاء الاصطناعي كسلاح سري لها.

يقوم Maven بدمج صور الأقمار الصناعية وتغذية الطائرات بدون طيار وبيانات الرادار واستخبارات الإشارات في واجهة واحدة، ثم يصنف الأهداف ويوصي بأنظمة الأسلحة ويولد حزم الضربات في الوقت الفعلي تقريبًا، مما يؤدي إلى ضغط تفكير سلسلة القتل واتخاذ القرار في أسرع جداول زمنية على الإطلاق في ساحة المعركة.

ويستخدم نموذج كلود للذكاء الاصطناعي الأنثروبيالمضمنة في نظامها، لتصنيف الأهداف بشكل شبه مستقل حسب الأهمية الاستراتيجية، وصياغة مبررات قانونية آلية لكل ضربة على طول الطريق.

وقد أنتج البرنامج مئات من إحداثيات الضربة في أول 24 ساعة من الحملة ضد إيران، مما مكن الولايات المتحدة من ضرب أكثر من 1000 هدف في أول 24 ساعة من الحرب، وفقًا لـ واشنطن بوست.

بعد أن أطلعت المصادر على النتائج الأولية سي إن إن بعد أن أنشأت القيادة المركزية الأمريكية إحداثيات الاستهداف باستخدام معلومات استخباراتية قديمة قدمتها وكالة استخبارات الدفاع ولم يتم تحديثها لتعكس وجود المدرسة، أصبح سؤال واحد محوريًا في الاستفسارات: “إذا كان الأمر كذلك، فهل تحقق الإنسان من دقة هذا الهدف؟” سألوا.

وما زالوا ينتظرون تفسيرا رسميا.

قال مشغلو الطائرات بدون طيار الأوكرانيون الذين يقومون ببناء ونشر أنظمة استهداف شبه مستقلة على خط المواجهة لصحيفة Military Times إنهم تعرفوا على الجاني المحتمل على الفور.

إيهور ماتفيوك، مدير مركز ايروقال، وهي شركة أوكرانية للطائرات بدون طيار تقوم ببناء ونشر طائرات بدون طيار شبه مستقلة على الخطوط الأمامية للحرب مع روسيا، إنه يستطيع أن يتخيل بالضبط كيف حدث الفشل.

على الرغم من أنه ليس لديه معرفة داخلية بضربة ميناب على وجه التحديد، إلا أنه قال في وقت سابق من هذا الشهر إنها تحمل بصمات فشل الاستهداف – وليس خللًا في الذكاء الاصطناعي.

وقال ماتفيوك لصحيفة “ميليتاري تايمز”: “لقد كانت ضربة على الإحداثيات (المحددة) بشكل شبه مؤكد”. “المشكلة الرئيسية لم تكن في الذكاء الاصطناعي، بل كانت في مدى قرب الجسم العسكري من المدرسة”.

في الأسبوع الماضي، تحدث مسؤولون عسكريون سابقون إلى إشارات المرور أكدوا تقييم ماتفيوك المبكر: “البشر – وليس الذكاء الاصطناعي – هم المسؤولون” عن الإضراب المدرسي، مشيرين إلى البيانات التي لا معنى لها والتي تم تنسيقها بواسطة الإنسان والتي تم تغذيتها إلى منصة الاستهداف Maven التابعة للبنتاغون.

لقد أدرك ماتفيوك هذا النمط لأنه كان عليه أن يقرر مقدار الذكاء الاصطناعي الذي سيستخدمه في أنظمة الأسلحة شبه المستقلة الخاصة به مرارًا وتكرارًا مع تطور حرب الطائرات بدون طيار وقدرات البرمجيات بسرعة في ساحة المعركة في أوكرانيا.

وقال ماتفيوك: “يسمح لنا الاستهداف التلقائي بالتقاط أقل من نصف الأهداف، وليس أكثر”. “لأنهم جميعًا ما زالوا مموهين.”

وبيانات وزارة الدفاع نفسها تؤكد ذلك. يستطيع Maven تحديد الكائنات بشكل صحيح بنسبة دقة إجمالية تبلغ 60% تقريبًا – مقارنة بـ 84% للمحللين البشريين.

لكن هذا المعدل ينخفض ​​إلى أقل من 30% في الظروف المعاكسة، مثل سوء الأحوال الجوية أو ضعف الرؤية، وفقًا لبيانات البنتاغون المنشورة في تقرير عام 2024. بلومبرج تقرير.

إن خطر حدوث “أضرار جانبية”، كما يمكن تصنيف الغارة على مدرسة ميناب في المصطلحات العسكرية، مرتفع للغاية – ولهذا السبب تقول شركة Aero Center وجميع شركات الطائرات بدون طيار الأوكرانية الأخرى التي تحدثت مع Military Times إنها تترك دائمًا قرار الضربة النهائية لمشغل بشري.

وقال ماتفيوك: “يتم تنفيذ التأثير المباشر دائمًا بأمر من المشغل، لمنع المدنيين من التعرض للضربة”.

في عام 2021، سجلت إحدى طائرات القوات الجوية الأمريكية التجريبية التي تستهدف الذكاء الاصطناعي دقة تصل إلى 25% تقريبًا في الظروف الحقيقية، على الرغم من تصنيف ثقتها بنفسها بنسبة 90%، عندما كان الرائد آنذاك. وقال الجنرال دانييل سيمبسون، مساعد نائب رئيس أركان القوات الجوية لشؤون الاستخبارات والمراقبة والاستطلاع الدفاع واحد.

وقال سيمبسون، وهو يلخص مشاكل البرنامج: “لقد كان خطأً بكل تأكيد”. “وهذا ليس خطأ الخوارزمية. بل لأننا زودناها ببيانات تدريب خاطئة.”

ومن غير المتوقع أن يتحسن الوضع. في الشهر الماضي، قام هيجسيث بتقليص القوى العاملة في مركز التميز لحماية المدنيين بنسبة 90٪ تقريبًا وخفض فريق تقييم الضحايا المدنيين التابع للقيادة المركزية الأمريكية من 10 إلى واحد. بوليتيكو ذكرت.

بعد ذلك، بعد ترك طاقم عمل صغير للإشراف على حواجز الحماية لأكبر توسع للذكاء الاصطناعي في الجيش، وقع نائب وزير الدفاع ستيف فاينبرج مذكرة في وقت سابق من هذا الشهر لإضفاء الطابع الرسمي على دور الذكاء الاصطناعي في صنع القرار العسكري – تعيين مافن كبرنامج رسمي قياسي ودفع اعتماده عبر جميع الفروع العسكرية الأمريكية بحلول سبتمبر. رويترز ذكرت يوم الجمعة.

لا يخجل صانعو الأسلحة الأوكرانيون، مثل ماتفيوك، من منح الذكاء الاصطناعي مزيدًا من الاستقلالية، لكنهم يستخدمونه بشكل استراتيجي.

وأضاف أن الاستهداف الذاتي فعال في “العمليات الهجومية واسعة النطاق، حيث لا تكون الأهداف مموهة”، وهو وصف قد يناسب المنشآت العسكرية الإيرانية الثابتة، والتي هي أقل إخفاءًا بكثير من معظم المواقع على الجبهة الأوكرانية.

وقال ماتفيوك: “نحن نؤيد فكرة استخدام العنصر البشري بشكل أقل فأقل في وظيفة مشغل الطائرة بدون طيار”. “الاستقلالية، العناصر المستقلة للطائرات بدون طيار – هذه هي الأشياء التي نعمل عليها.”

المشكلة، من وجهة نظره، لم تكن أن البنتاغون استخدم الذكاء الاصطناعي. كان الأمر هو أن البيانات وراء الهدف لم يتم تحديثها منذ أن حلت مدرسة البنات محل مقر عسكري على نفس الإحداثيات – والأشخاص الذين كانت مهمتهم التحقق من البيانات قد تم قطعهم بالفعل من السلسلة.

وشدد ماتفيوك على أن أنظمة الذكاء الاصطناعي لا يمكن الاعتماد عليها إلا بقدر الأشخاص الذين يبنونها ويطعمونها ويشرفون عليها.

عندما يفشل الارتباط البشري، سواء من خلال البيانات السيئة أو الإشراف المدمر أو الجداول الزمنية المضغوطة، ستستمر الآلة في تنفيذ الخطأ بدقة.

مدير الاستخبارات السابق في القيادة المركزية الأمريكية، اللفتنانت جنرال كارين جيبسون، كان واضحًا بشكل لا لبس فيه بشأن أين تقع المساءلة عن الضربات المميتة، بغض النظر عن استقلالية الأسلحة لجنة مركز الدراسات الاستراتيجية والدولية الأسبوع الماضي.

وقالت: “سأعود دائمًا إلى المبدأ الأساسي المتمثل في المسؤولية الإنسانية والمساءلة”. “سيتحمل القائد في مكان ما المسؤولية في نهاية المطاف، وليس آلة أو مهندس برمجيات”.