كيفية إدارة مخاطر الذكاء الاصطناعي مع جني الفوائد

في الشهرين الماضيين، قامت نماذج الذكاء الاصطناعي الرائدة من ثلاث شركات أمريكية، OpenAI، وAnthropic، وMeta، باختراق أنظمة الكمبيوتر الخاصة بمؤسسات أخرى بشكل مستقل ومستقل أثناء اختبار السلامة. قامت بعض العارضات بإنشاء هويات وهمية على الإنترنت، مستغلة الثغرات الأمنية.

حققت أدوات الكشف عن الذكاء الاصطناعي قفزات هائلة إلى الأمام، فما مدى جودتها؟

على الرغم من أن تقاريرهم قد تكون مبالغًا فيها في بعض الأحيان، إلا أن مثل هذه الأحداث تزيد من المخاوف بشأن سلامة الذكاء الاصطناعي وسوء استخدامه المحتمل ومخاطره. لقد بدأ الإجماع في مختلف أنحاء العالم على ضرورة تنظيم هذه التكنولوجيات على النحو اللائق، ولكن لا يوجد حتى الآن اتفاق بشأن ما ينبغي تنظيمه وكيف ينبغي تنظيمه على وجه التحديد.

في 2 أغسطس، اكتسب مكتب الذكاء الاصطناعي الأوروبي، وهو منظمة فنية تم إنشاؤها لإنفاذ قانون الاتحاد الأوروبي للذكاء الاصطناعي لعام 2024، صلاحيات للتحقيق مع شركات التكنولوجيا الكبرى ومعاقبتها بسبب انتهاك قواعد القانون. ويعد هذا تطورًا مهمًا في المهمة المستمرة المتمثلة في تحميل شركات الذكاء الاصطناعي المسؤولية عن سلامة نماذجها. ويحث المكتب الأوروبي للذكاء الاصطناعي أيضًا المزيد من الباحثين على المشاركة في عمله، ويجب عليهم ذلك.

يصنف قانون الذكاء الاصطناعي التابع للاتحاد الأوروبي أنظمة الذكاء الاصطناعي من خلال تخصيصها لأربعة مستويات من المخاطر. تواجه الأنظمة “عالية المخاطر” – تلك المستخدمة في الأجهزة الطبية والتعليم وإنفاذ القانون – متطلبات معززة، مثل الشفافية والرقابة البشرية.

أنظمة الذكاء الاصطناعي التي تحمل “مخاطر غير مقبولة”، على سبيل المثال، تلك التي تستخدم البيانات البيومترية لاستنتاج خصائص حساسة، مثل التوجه الجنسي للأشخاص، محظورة – على الرغم من وجود بعض الاستثناءات لغرض إنفاذ القانون. النماذج التي تشكل مخاطر نظامية، مع احتمال التسبب في ضرر واسع النطاق، تخضع لتدابير إضافية، إلا عندما تستخدم في سياق البحث. وتشمل هذه جميع النماذج الحدودية، على سبيل المثال، Claude Fable 5، التي طورتها شركة Anthropic في سان فرانسيسكو، كاليفورنيا. يجب على منشئي هذه النماذج تزويد الجهة التنظيمية في الاتحاد الأوروبي بنظرة عامة على بيانات ومنهجيات التدريب الخاصة بهم، وإثبات أنهم يحترمون قوانين حقوق الطبع والنشر وإظهار أن نماذجهم يمكن أن تحافظ على السلامة. ويشمل ذلك منع التلاعب الضار بالجمهور، مثل الإقناع أو الخداع الذي يمكن أن يقوض العمليات الديمقراطية والحقوق الأساسية.

هل تستطيع العلامات المائية غير المرئية لـ Anthropic الحد من “انحدار الذكاء الاصطناعي”؟ لا يزال الباحثون متشككين

وينص القانون أيضًا على أنه يجب توعية جميع مستخدمي أدوات الذكاء الاصطناعي بأنهم يتفاعلون مع جهاز كمبيوتر، أي أن برنامج الدردشة الآلي لا يمكنه انتحال شخصية الإنسان. علاوة على ذلك، يجب أن تكون مخرجات الذكاء الاصطناعي قابلة للتعريف، على سبيل المثال، بعلامة مائية.

هذه القواعد هي نتيجة لقانون تم اتخاذه بشق الأنفس ورفضته الشركات مرارا وتكرارا، قائلة إنه من شأنه أن يخنق الابتكار. ولكن هناك الآن دلائل على أن الشركات تتخذ خطوات للامتثال. قبل الثاني من أغسطس، نشرت شركات، بما في ذلك شركة OpenAI في سان فرانسيسكو، وشركة Anthropic، وثائق امتثال تصف التدابير التي تتخذها – بما في ذلك أطرها الداخلية، المصممة لضمان سلامة النماذج – وبعض التفاصيل حول بيانات التدريب الخاصة بها. وبحسب ما ورد أبلغت الشركتان مكتب الذكاء الاصطناعي الأوروبي بالانتهاكات الأمنية لنماذجهما قبل نشرها للعامة. في وقت سابق من هذا الشهر، الأنثروبي أعلن أن المحتوى المستقبلي الذي ينشئه كلود سيحمل علامة مائية.

ولإنفاذ القانون، يمكن للمكتب أن يطلب وثائق نموذجية، وإجراء تقييمات، وفرض غرامات على شركات التكنولوجيا تصل إلى 15 مليون يورو (17.5 مليون دولار أمريكي) أو 3% من حجم مبيعاتها السنوي العالمي. يمكن فرض غرامات على الشركات لتقديم معلومات غير صحيحة أو غير كاملة أو مضللة. وفي الحالات الخطيرة، يمكن للمكتب أن يطلب تقييد النماذج أو سحبها من السوق الأوروبية، التي تضم أكثر من 450 مليون شخص.

المعالجة الموازية

ويأتي تطبيق قانون الاتحاد الأوروبي وسط تطورات موازية في الصين والولايات المتحدة. لدى الصين لوائح ومعايير فنية واسعة النطاق خاصة بالذكاء الاصطناعي. يحتاج مطورو الذكاء الاصطناعي إلى السماح للمنظمين في البلاد بذلك اختبار الأنظمة التي تواجه الجمهور قبل نشرها. تتطلب الصين أيضًا وضع علامات على المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي والقيود استخدام الصحابة AI.

تريد الصين أن تقود العالم في مجال تنظيم الذكاء الاصطناعي، فهل تنجح الخطة؟

في الشهر الماضي، أطلق الرئيس شي جين بينغ المنظمة العالمية للتعاون في مجال الذكاء الاصطناعي (WAICO)، وهي وكالة حكومية دولية مصممة لتعزيز الحوكمة العالمية للذكاء الاصطناعي. في ديسمبر/كانون الأول الماضي، ناقشنا في افتتاحية أن الدول الأخرى يجب أن تساعد في تشكيل المنظمة (انظر: طبيعة 648، 251؛ 2025). لكن الدول الأعضاء المؤسسة لـWAICO والبالغ عددها 29 دولة لا تشمل الولايات المتحدة أو أي دولة من دول الاتحاد الأوروبي. وهذه فرصة ضائعة. ولابد أن يتصدر التعاون في مجال الذكاء الاصطناعي جدول الأعمال عندما يجتمع شي والرئيس الأمريكي دونالد ترامب في الولايات المتحدة الشهر المقبل.

بدأت إدارة ترامب في التحول عن سابقتها ارفع يديك الموقف من تنظيم الذكاء الاصطناعي. هناك شكل من أشكال التنظيم الفيدرالي قيد الإعداد بعد الأنثروبيك أخرت إصدار نموذج كلود ميثوس عندما أشارت الاختبارات إلى أنه خطير جدًا للاستخدام العام. وفي يونيو/حزيران، أنشأت الولايات المتحدة آلية طوعية يتم من خلالها فحص نماذج الشركات من قبل الحكومة الفيدرالية قبل 30 يومًا من إطلاقها، على الرغم من أن تفاصيل المخطط تظل سرية. ويجب أن تكون هذه العملية شفافة وأن تصبح إلزامية بمجرد أن يكون ذلك عمليًا.

من الواضح أن كبار الباحثين في مجال الذكاء الاصطناعي في الولايات المتحدة يشعرون بالقلق إزاء الضرر الذي قد تحدثه تقنيات الذكاء الاصطناعي. في رسالة مفتوحة نشرت الشهر الماضيدعا ما يقرب من 1400 موظف في شركات الذكاء الاصطناعي الحدودية، بما في ذلك الكثير من قادة OpenAI وAnthropic، حكومة الولايات المتحدة إلى دعم الجهود الدولية لإبطاء وتيرة تطوير الذكاء الاصطناعي، لكسب الوقت لمعالجة المخاطر الناشئة.

من الخطورة جدًا إصدارها: هل تعتبر Mythos بداية عصر الذكاء الاصطناعي المقيد؟

لدى الباحثين في أوروبا أيضًا فرصة للمساعدة في تحسين الجهود الرامية إلى التخفيف من مجموعة من مخاطر الذكاء الاصطناعي المحتملة. يضم المكتب الأوروبي للذكاء الاصطناعي فريقًا صغيرًا نسبيًا يضم حوالي 140 موظفًا، لكنه يريد النمو. وتقوم الوكالة بتعيين حوالي 40 موظفًا إضافيًا، خاصة لشغل الأدوار الفنية في سلامة الذكاء الاصطناعي وإدارته. يجب على الباحثين أيضًا التفكير في الإبلاغ عن انتهاكات قانون الذكاء الاصطناعي من خلاله أداة الإبلاغ عن المخالفات.

وبعد عدة سنوات من الأساليب المتباينة في كثير من الأحيان فيما يتعلق بسلامة الذكاء الاصطناعي، أصبحت معظم البلدان تدرك الآن أن التنظيم من نوع ما أمر ضروري. وينبغي لمكتب الذكاء الاصطناعي الأوروبي أن يكون جريئا في مساءلة الشركات. لا ينبغي لأحد أن يعارض فكرة أن التكنولوجيا المثيرة ذات الفوائد المحتملة التي لا تحصى يجب أن تكون آمنة للاستخدام أيضًا.