الأخبار أن OpenAI تم اختراق نماذج الذكاء الاصطناعي عن طريق الخطأ في التخصص منظمة العفو الدولية شركة تعانق الوجه أدى ذلك إلى تجدد الدعوات إلى التنظيم واتخاذ تدابير بديلة لاختبار نماذج الذكاء الاصطناعي الحدودية.
“هذا أمر مقلق للغاية. الذكاء الاصطناعي يتطور بسرعة كبيرة مع عدم وجود لوائح حقيقية للحفاظ على سلامتنا،” نشر النائب جريج كاسار (ديمقراطي من تكساس) على X. “وهذا يجب أن يتغير. نحن بحاجة إلى اختبارات السلامة والإشراف الإلزامي المستقل المنتظم، والكشف الإلزامي عن الحوادث الأمنية، والتعاون الدولي للحفاظ على سلامة الناس من الكوارث المطلقة.”
الزواج منك ودعا إلى التشريع لإبطاء تقدم الذكاء الاصطناعي. وفي الوقت نفسه، قدمت مجموعة من المشرعين من الحزبين الجمهوري والديمقراطي مشروع قانون قانون الذكاء الاصطناعي الأمريكي العظيم، من شأنه أن يفرض متطلبات الكشف عن المخاطر على النماذج الرائدة.
بعد الإعلان هذا الأسبوع عن الاختراق غير المقصود لبرنامج Hugging Face، أعرب الخبراء والمحللون أيضًا عن قلقهم بشأن مخاطر إجراء اختبارات لتقييم الأنظمة الحدودية في البيئات التي يُزعم أنها خاضعة للسيطرة، حيث أظهر الحادث السيبراني غير المسبوق، والذي ربما يكون أول تهديد أمني للذكاء الاصطناعي من نوعه، احتمال فشل الاحتواء.
وقال جوناد علي، خبير الأمن السيبراني والذكاء الاصطناعي وزميل معهد الهندسة والتكنولوجيا: “تم منح عميل الأمن السيبراني الهجومي إمكانية الوصول غير المباشر إلى الإنترنت”. واشنطن الممتحن. “وهذا سمح لها بالهروب، في محاولة للغش في تمرين قياس الأداء.”
“إذا كانت هذه هي الطريقة الوحيدة التي يمكن بها تكوين هذه الاختبارات، فما هي المخاطر؟” وقالت ديردري موليجان، الأستاذة في كلية الإعلام بجامعة كاليفورنيا في بيركلي، لصحيفة The Guardian نيويورك تايمز.
وقالت الشركة في بيان لها إن الحادث نتج عن مجموعة من نماذج OpenAI، بما في ذلك GPT‑5.6 Sol ونموذج ما قبل الإصدار “الأكثر قدرة”، في محاولة لإنجاز مهمة أثناء الاختبار الداخلي التي اعتقدت أن موارد Hugging Face يمكن أن تساعد فيها. إفادة.
حاولت Hugging Face تقييم أصل الهجوم باستخدام نماذج أمريكية، لكن تم منعها من القيام بذلك بسبب حواجز السلامة واضطرت إلى الاعتماد على GLM 5.2، وهو نموذج صيني مفتوح الوزن.
قال علي: “من المثير للقلق العميق أن Hugging Face واجهت حواجز أمنية مفرطة الحماس عند محاولتها استخدام تقنيات الذكاء الاصطناعي التي طورتها الولايات المتحدة للدفاع ضد الهجوم، مما أدى إلى استخدام نماذج الذكاء الاصطناعي الصينية مفتوحة المصدر بدلاً من ذلك”.
وقال: “نظرًا لأن تقنيات الذكاء الاصطناعي المعادية أصبحت متاحة على نطاق واسع للجهات الفاعلة الخبيثة، فمن الضروري تطوير القدرات الدفاعية وإتاحتها للفرق الأمنية”.
وفي محاولة لزيادة تدابير السلامة، أصدرت مختبرات الذكاء الاصطناعي أيضًا نماذج لتحديد مشاكل الأمن السيبراني وكشفها. أنثروبي أطلقت كلود ميثوس في أبريل، وهي سلسلة نماذج متقدمة للغاية للذكاء الاصطناعي على المستوى الحدودي معروفة بقدراتها غير المسبوقة في مجال الأمن السيبراني والتشفير، لكنها أبقتها بعيدًا عن أيدي معظم الجمهور في البداية خوفًا من إمكانية استخدامها لشن هجمات إلكترونية.
بعد فترة وجيزة، قامت OpenAI بقصر إصدار تقنية الذكاء الاصطناعي GPT-5.4-Cyber على عدد صغير من المؤسسات بسبب مخاوف تتعلق بالأمن السيبراني.
ويعتقد بعض الخبراء أن مثل هذه الحوادث ستستمر في الحدوث.
وقال أليكس ليفينسون، مستشار الأمن السيبراني الذي يركز على القدرات الذاتية، لصحيفة The New York Times: “هذه عتبة حقيقية، وستصبح جزءاً طبيعياً من المشهد الأمني”. نيويورك تايمز.
“ماذا يعني أن أنظمة الذكاء الاصطناعي الأكثر تقدمًا في العالم تكسر الاحتواء وتخترق شركات الذكاء الاصطناعي الأخرى؟” وقال جيفري لاديش، المدير التنفيذي لشركة Palisade Research، في منشور بتاريخ X.
ولم يستجب البيت الأبيض ووزارة التجارة الأمريكية ووكالة الأمن السيبراني وأمن البنية التحتية لطلب التعليق.
المخاطر التي تواجه مشروع قانون تنظيم الذكاء الاصطناعي المشترك بين الحزبين
الولايات المتحدة و الصين وبحسب ما ورد سيعقد المحادثات منظمة العفو الدولية في سبتمبر/أيلول لمناقشة المخاطر التي تشكلها نماذجهم الحدودية القوية بشكل متزايد والتوترات التي نشأت أثناء تنافسهم على الهيمنة في العالم. سباق الذكاء الاصطناعي.
بينما تتسابق بكين وواشنطن على التطور منظمة العفو الدوليةتعمل القوتان العظميان على وضع القواعد التنظيمية ودعم نقاط الضعف في الأمن القومي.
المصدر الأصلي: www.washingtonexaminer.com
