يحذر
قد لا تكون الموافقة البشرية كافية لضمان التحكم اليدوي القرارات المدعمة بالذكاء الاصطناعيقال شهود أمام الكونجرس يوم الأربعاء، حيث يلعب الذكاء الاصطناعي دورًا أكبر في جيش تحديد الهدف والتوصيات، وبالتالي ضغط الوقت المتاح للتدخل.
ويقول النقاد إن القلق لا يقتصر على ذلك الأسلحة التي يمكنها اختيار الأهداف والاشتباك معها بمفردهم.
في جلسة استماع بعنوان “الذكاء الاصطناعي في المجال العسكري: آثاره على حقوق الإنسان”، أخبر شهود عيان أعضاء لجنة توم لانتوس لحقوق الإنسان أن الذكاء الاصطناعي يمكن أن يؤثر على قرارات الإنسان مما يؤدي إلى الإضراب مع ترك الفرد مسؤولاً رسميًا عن المكالمة النهائية.
وقالت آنا ميسيشين، الباحثة الأوكرانية في مجال حوكمة الذكاء الاصطناعي، للمشرعين: “زر الموافقة وحده لا يُظهر السيطرة”.
وتأتي هذه القضية في الوقت الذي يضغط فيه البنتاغون لاستخدام الذكاء الاصطناعي لتسريع عملية صنع القرار العسكري. استراتيجية البنتاغون لاعتماد الذكاء الاصطناعي لعام 2023 حددت “سلاسل القتل السريعة والدقيقة والمرنة” كنتيجة مرغوبة، في حين أنها استراتيجية الذكاء الاصطناعي 2026 يدعو إلى أن نصبح قوة قتالية “الذكاء الاصطناعي أولاً” من خلال إعادة تصميم سير العمل العسكري والمفاهيم التشغيلية حول قدرات الذكاء الاصطناعي الحالية.
تساءل Mysyshyn عما إذا كان الشخص الذي يشرف على أنظمة متعددة تدعم الذكاء الاصطناعي يمكنه التعرف على التوصية غير الصحيحة والتدخل بسرعة كافية قبل حدوث الضرر. واستشهدت بأوكرانيا كمثال على ضغط الذكاء الاصطناعي للقرارات من ساعات إلى دقائق.
وقالت إنه في العديد من السيناريوهات، لا يمتلك الإنسان الذي يتخذ القرار النهائي بالضرورة ما يكفي من المعلومات أو الوقت أو القدرة على تحدي توصية النظام.
توجيهات وزارة الدفاع لعام 2023 يتطلب الاستقلال الذاتي في أنظمة الأسلحة أسلحة مستقلة وشبه ذاتية التشغيل للسماح للقادة والمشغلين بممارسة مستويات مناسبة من الحكم البشري على استخدام القوة.
ركزت شهادة الأربعاء على سؤال أوسع: ما إذا كان هذا الحكم سيظل ذا معنى إذا كان الذكاء الاصطناعي يؤثر على الاستهداف بشكل أسرع مما يستطيع الإنسان التحقق منه.
حذرت أماندا كلاسينج، المديرة الوطنية للعلاقات الحكومية والمناصرة في منظمة العفو الدولية بالولايات المتحدة الأمريكية، من أن الذكاء الاصطناعي يمكن أن يضغط على “سلسلة القتل” العسكرية بطرق تجعل من الصعب تحديد ما إذا كان التمييز الإنساني الهادف قد حدث بالفعل قبل الضربة أم لا.
يرى جوزيف تشابا، وهو ضابط عسكري سابق وباحث في الأخلاقيات العسكرية، أن المناقشة لا ينبغي أن تركز فقط على مدى استقلالية النظام. وحث صناع السياسات على النظر فيما إذا كان نظام الذكاء الاصطناعي يعتمد على الاستدلال الإحصائي، وماذا يحدث عندما يفشل في بيئة تشغيلية معينة، وما إذا كان من الممكن مراجعة قراراته بعد ذلك.
وقال تشابا إن أنظمة الذكاء الاصطناعي الإحصائي يمكن أن تفشل بشكل مختلف عن البرامج التقليدية، بما في ذلك إنتاج مخرجات مختلفة إلى حد كبير من تغييرات صغيرة نسبيًا في المدخلات. كما يمكن للأنظمة الأكثر تعقيدًا أن تجعل من الصعب إعادة بناء كيفية إصدار توصية معينة بعد حدوثها.
ودعا إلى مزيد من التعليم في مجال الذكاء الاصطناعي في الجيش، بما في ذلك التدريب المتخصص للعاملين في أنظمة الاستهداف والاستخبارات.
وأشار شهود يوم الأربعاء أيضًا إلى مشكلة مساءلة أكبر: تحديد ما يحدث عندما يؤدي القرار بمساعدة الذكاء الاصطناعي إلى ضرر للمدنيين.
أنشأت وزارة الدفاع خطة عمل لتخفيف الأضرار المدنية والاستجابة لها في عام 2022، بما في ذلك مركز التميز في حماية المدنيين الذي يهدف إلى أن يكون بمثابة مركز للتحليل والتدريب. ويلزم القانون الاتحادي البنتاغون بتشغيل المركز.
لكن أ مراجعة المفتش العام بوزارة الدفاع تم إصداره في مايو/أيار، وقام بتقييم تنفيذ الإدارة لإطار الأضرار المدنية ووجد مشاكل بما في ذلك فقدان الموظفين أو إعادة تعيينهم، ونهاية التمويل لمنصة إدارة بيانات الأضرار المدنية وفشل لجنة توجيهية عليا في مواصلة الاجتماع.
وهذا مهم في حالة الذكاء الاصطناعي لأنه، كما أشار كلاسينج، فإن لدى الجيش حاليًا قدرة محدودة على تحديد ما إذا كان الذكاء الاصطناعي قد يساهم في استهداف المدنيين بشكل غير لائق.
في اليوم الأول من الحرب الأمريكية الإيرانية، ضرب صاروخ كروز توماهوك مدرسة شجرة طيبة الابتدائية في ميناب، جنوب إيران. وقُتل ما لا يقل عن 168 شخصاً، أكثر من 100 منهم تحت سن 12 عاماً، وفقاً لمسؤولين في الأمم المتحدة وإيران.
يقع مبنى المدرسة على بعد أقل من 100 ياردة من منشأة بحرية تابعة للحرس الثوري الإسلامي منذ فترة طويلة، وكان يقع سابقًا داخل محيط مجمع الحرس الثوري الإيراني حتى ظهر جدار بين عامي 2013 و2016، وفقًا لتحليل صور الأقمار الصناعية الذي أجراه منظمة العفو الدولية.
وبحلول الوقت الذي شنت فيه الولايات المتحدة وإسرائيل ضرباتهما الأولى في 28 فبراير/شباط، كانت المدرسة قد أنشئت قبل عدة سنوات. وكانت نشطة على وسائل التواصل الاجتماعي وكان لها موقعها الإلكتروني الخاص، أ رويترز وجد التحقيق.
وذكر المحققون العسكريون الأمريكيون في أعقاب الحادث أن الغارة نفذتها على الأرجح القوات الأمريكية. لكن البنتاغون لم يعلن بعد عن نتائج التحقيق.
واقترح كلاسينج إضافة معلومات حول تورط الذكاء الاصطناعي إلى تقارير البنتاغون السنوية عن الضحايا المدنيين المطلوبة بموجب هذا التقرير المادة 1057 من قانون تفويض الدفاع الوطني. ويدعو شرط الإبلاغ الحالي إلى الحصول على معلومات حول الضحايا المدنيين والتحقيقات وجهود التخفيف، لكنه لا يتطلب على وجه التحديد من الإدارة تحديد ما إذا كان الذكاء الاصطناعي قد ساهم في وقوع حادث.
وقال ستيف فيلدشتاين، وهو زميل بارز في مؤسسة كارنيجي للسلام الدولي، إن على البنتاغون جمع البيانات من العمليات العسكرية وإجراء مراجعات ما بعد العملية لتحديد ما إذا كانت الأنظمة المدعومة بالذكاء الاصطناعي حددت بدقة الأهداف المقصودة وما إذا كانت الأخطاء ساهمت في سقوط ضحايا من المدنيين.
“السؤال الأكبر هو إلى أي مدى يقوم البنتاغون بجمع البيانات والتحقق من دقة الأهداف لكل هذه الآلاف من الضربات؟” قال فيلدشتاين.
وحذر فيلدشتاين أيضًا من التعامل مع الذكاء الاصطناعي نفسه باعتباره مصدرًا لكل مشكلة محتملة. ويمكن استخدام الذكاء الاصطناعي للمساعدة في التحقق من المعلومات الاستخباراتية، واكتشاف التغييرات في الصور، وتحديد أولويات الاستجابات الدفاعية للتهديدات مثل الطائرات بدون طيار والصواريخ الباليستية.
ولكن إذا كان النظام الذي يتأثر بالإنسان مبنيًا على افتراضات مفادها أن سمات ديموغرافية معينة تجعل شخصًا ما هدفًا مشروعًا، فإن الذكاء الاصطناعي لن يصحح هذه الفرضية الأساسية.
وأشار فيلدشتاين بالمثل إلى القواعد التي يضعها البشر قبل استخدام نظام الذكاء الاصطناعي. وقال إنه إذا قرر القادة أن مستوى معينًا من الضرر الذي يصيب المدنيين مقبول في السعي لتحقيق هدف عسكري، فإن الآلة تعمل ضمن إطار يحدده الإنسان.
ويصبح التحدي حادًا بشكل خاص عندما تعمل الأنظمة بشكل أسرع من قدرة الأشخاص على تقييم التوصيات بشكل هادف.
وافتتحت اللجنة جلسة الأربعاء بمثال من العراق. في عام 2004، واجه قائد فرقة الجيش نيك إليسون شابين يطلقان النار من مدفع رشاش من سيارة أثناء دورية للتعداد السكاني في كركوك.
أجرى إليسون اتصالًا بصريًا مع أحد الرجال، ورأى الذعر وأمر جنوده بالتوقف عن إطلاق النار. وتبين أن الرجال هم إخوة لعريس متزوج حديثاً، وكان إطلاق النار احتفالياً.
وقال Mysyshyn إن الاختبار يجب أن يفحص التحيز والموثوقية وحماية المدنيين وضغط الوقت الواقعي وما إذا كان بإمكان المشغلين مقاطعة الأنظمة وما إذا كان من الممكن تتبع القرارات طوال دورة حياة نظام الذكاء الاصطناعي.
وقال تشابا إن بعض أنظمة الذكاء الاصطناعي قد يكون من الصعب تدقيقها بعد وقوعها، بينما قالت ديبورا براون من منظمة هيومن رايتس ووتش إن المعلومات حول استخدام الذكاء الاصطناعي العسكري ظهرت في كثير من الأحيان من خلال التقارير الاستقصائية والمبلغين عن المخالفات بدلاً من الإفصاحات الحكومية.
لم يعد التحدي المتزايد، وفقًا لشهود عيان، يتمثل في جعل الآلة تضغط على الزناد، ولكن ما إذا كان لدى الإنسان الذي يوافق على سحب الزناد ما يكفي من الوقت والمعلومات والسلطة لاتخاذ خيار ذي معنى قبل وقوع الكارثة.
ساهمت مراسلة صحيفة Military Times كاتي ليفينغستون في إعداد هذا التقرير.
ناتالي أوليفيريو صحفية مستقلة ومحارب قديم في البحرية تغطي قضايا الجيش والمحاربين القدامى. وبالاعتماد على خبرتها كمديرة تنفيذية ومرشدة موهوبة، تكتب عن السياسات والأشخاص والبرامج التي تشكل المجتمع العسكري.
www.defensenews.com
