لماذا لا يمكن الوثوق بشركات الذكاء الاصطناعي في التنظيم الذاتي؟

باعتباري عالم كمبيوتر عمل في كل من مجالات الذكاء الاصطناعي والمجالات الحيوية المتعلقة بالسلامة – مثل الطاقة النووية والطيران – فقد أذهلني منذ فترة طويلة مدى ضآلة الدقة المطلوبة للبنية التحتية الحيوية التي تم تطبيقها على تطوير الذكاء الاصطناعي. أثارت الحوادث التي وقعت هذا العام، والتي “هرب” فيها عملاء الذكاء الاصطناعي من بيئات الاختبار الخاصة بهم، مخاوف واسعة النطاق بشأن سلامة الذكاء الاصطناعي. ومع ذلك، فإن القضية الحقيقية لا تكمن في الذكاء الاصطناعي المارق. إنه الإهمال البشري والفشل في محاسبة مختبرات الذكاء الاصطناعي.

نحن بحاجة إلى أخلاقيات جديدة لعالم عملاء الذكاء الاصطناعي

لنأخذ على سبيل المثال الحلقة التي هرب فيها عملاء الذكاء الاصطناعي من بيئة الاختبار الخاصة بهم ووصلوا إلى Hugging Face، وهي منصة تستضيف نماذج التعلم الآلي ومجموعات البيانات، للبحث عن إجابات لمهمة الأمن السيبراني التي حددتها شركة OpenAI. كان من الممكن أن تمنع وقوع الحادث ممارسات السلامة والأمن الأساسية، بما في ذلك مراقبة الشبكة للتحقق من عدم وصول العملاء إلى الإنترنت وتوفير بيئة حماية أقوى لإبقائهم محصورين.

تاريخيًا، كان من المتوقع من مطوري الفيروسات المتنقلة المتطورة – وهي برامج ضارة مصممة للانتشار تلقائيًا من كمبيوتر إلى آخر – أن يقوموا ببنائها واختبارها في بيئات آمنة. إذا قال أحد مهندسي الأمن السيبراني إن دودة قد أفلتت من صندوق الحماية الذي تم تصميمه خصيصًا لاحتواء السلوك الذي تم تصميمه لعرضه، فسيكون مسؤولاً بحق عن أي ضرر ناتج. لماذا ينبغي معاملة شركات الذكاء الاصطناعي بشكل مختلف؟ إن نسب النية بشكل غير لائق إلى عملاء الذكاء الاصطناعي، بدلا من الاعتراف بأن شركات الذكاء الاصطناعي تعمدت تطوير هذه القدرات في بيئات سيئة التأمين، يسمح لهذه الشركات بالإفلات من المأزق بسهولة بالغة. الدرس الأوسع هو أن مختبرات الذكاء الاصطناعي لا يمكنها الاستمرار في تحديد مسار حوكمة الذكاء الاصطناعي. باعتباري شخصًا قام بعمل لدى كل من OpenAI ومعهد أمن الذكاء الاصطناعي التابع لحكومة المملكة المتحدة، أعتقد أننا وصلنا إلى نقطة انعطاف.

لقد تم إعداد الذكاء الاصطناعي لإحداث تحول جذري في مجال الأمن السيبراني، وإليك كيفية الاستعداد للباحثين

وينبغي للقادة السياسيين وصناع السياسات الجادين في تخفيف المخاطر الكارثية التي يفرضها الذكاء الاصطناعي أن ينظروا إلى النماذج التنظيمية المستخدمة بالفعل في قطاعات مثل الطاقة النووية والطيران والرعاية الصحية والتمويل. كلما تم نشر نظام الذكاء الاصطناعي في صناعة منظمة، فيجب أن يخضع لنفس عتبات المخاطر وآليات المساءلة التي تحكم التقنيات الحيوية الأخرى. على سبيل المثال، يجب أن تخضع أداة الذكاء الاصطناعي المستخدمة في منشأة نووية لسلطة الجهة التنظيمية النووية ذات الصلة وأن يُطلب منها تلبية نفس معايير السلامة مثل أي مكون برمجي أو جهاز آخر. وعلى نحو مماثل، من الممكن أن تساعد التعديلات على التشريعات القائمة، مثل قانون الاحتيال وإساءة استخدام الكمبيوتر في الولايات المتحدة وقانون إساءة استخدام الكمبيوتر في المملكة المتحدة، في ضمان تحميل مطوري الذكاء الاصطناعي المسؤولية عندما تعمل الممارسات الأمنية المهملة على تمكين الأنظمة ذات القدرات السيبرانية الهجومية، مثل القرصنة، من إحداث الضرر.