OpenAI قال لها الذكاء الاصطناعي نموذج بشكل مستقل اخترق في البنية التحتية الإلكترونية لشركة أخرى للعثور على إجابات لمشكلة اختبار تم تقديمها أثناء التجربة.
في الأسبوع الماضي، اكتشفت شركة Hugging Face، وهي شركة ناشئة تعمل في مجال الذكاء الاصطناعي، واحتوت عامل ذكاء اصطناعي قالت إنه أضر ببنيتها التحتية. بعد إجراء تحقيق، قالت OpenAI، الشركة الأم لـ ChatGPT، إن الاختراق الأمني كان مدفوعًا بمجموعة من نماذج OpenAI – بما في ذلك نموذج ما قبل الإصدار “الأكثر قدرة” – أثناء الاختبار الأمن السيبراني القدرات.
“نحن نعتبر هذا الحادث بمثابة حادث سيبراني غير مسبوقوقالت OpenAI في بيان: “تتضمن أحدث القدرات السيبرانية، ونستجيب وفقًا لذلك. نحن نشارك النتائج الأولية في هذه المرحلة لمساعدة المدافعين على فهم ما حدث وللمساعدة في معايرة النماذج القادرة الآن على القيام بذلك”.
وأضافت الشركة: “سنواصل إجراء تحقيق شامل جنبًا إلى جنب مع Hugging Face وسنشارك المزيد من التفاصيل حول نقاط الضعف والحادث والنتائج عند اكتمال تحقيقنا”.
يستخدم Hugging Face مصدرًا مفتوحًا الصينية نموذج الذكاء الاصطناعي، Zhipu AI’s GLM-5.2، لتحليل الاختراق، حيث لم تتمكن نماذج الذكاء الاصطناعي الأمريكية الرائدة من تحديد الفرق بين المهاجم والمدافع في الهجوم السيبراني، مما جعلهم يرفضون المساعدة وفقًا للضمانات الداخلية لمنعهم من استخدامها كأسلحة سيبرانية. يمكن لنموذج الذكاء الاصطناعي الصيني الآن الوصول إلى بعض بيانات نموذج OpenAI وبيانات الاعتماد داخل أنظمته بعد نشره بواسطة Hugging Face.
وقالت OpenAI إنها تتوقع أن تصبح هذه الأنواع من الهجمات “أكثر شيوعًا مع انتشار النماذج ذات القدرة السيبرانية بشكل متزايد”.
وقال كليمنت ديلانج، المؤسس المشارك والرئيس التنفيذي لشركة Hugging Face، في بيان: “لقد اشتبهنا في أن الهجوم الإلكتروني الذي وقع الأسبوع الماضي ربما جاء من مختبر حدودي، نظرًا لتطور العميل”. “اتضح أنه حدث!”
وقالت OpenAI إن النماذج كانت تعمل في بيئة اختبار “وضع الحماية” دون الوصول إلى الإنترنت. وجدت النماذج طريقة للوصول إلى الإنترنت أثناء محاولتها حل رسالة الاختبار. بعد الوصول إلى الإنترنت، استنتجت النماذج أن Hugging Face استضافت نماذج ومجموعات بيانات وحلول لسؤال الاختبار. تمكنت العارضات من الوصول إلى البنية التحتية للشركة، وسرقة المعلومات لخداع سؤال الاختبار.
وقالت OpenAI في بيانها يوم الثلاثاء: “يعمل الذكاء الاصطناعي على تسريع اكتشاف واستغلال نقاط الضعف”. “الدرس الأساسي المستفاد من هذا الحادث هو أن نموذج الأمن والسلامة يجب أن يواكب القدرات المتطورة بسرعة.”
يقال إن الولايات المتحدة والصين تستعدان لإجراء محادثات حول الذكاء الاصطناعي في سبتمبر
ويأتي الاختراق الأمني بعد أن اتخذت إدارة ترامب إجراءات ضد أنظمة الذكاء الاصطناعي بسبب مخاوف تتعلق بالأمن السيبراني في الأسابيع الأخيرة. في يونيو/حزيران، الرئيس دونالد ترامب وقعت أمراً تنفيذياً يسمح للحكومة الفيدرالية بالتحقق من مخاطر الأمن القومي لأنظمة الذكاء الاصطناعي الأكثر تقدماً لمدة تصل إلى شهر قبل إصدارها للعامة.
إن السيناريو الأسوأ الذي يخشاه باحثو الذكاء الاصطناعي هو أن تفلت التكنولوجيا من الرقابة البشرية من خلال الانحراف أثناء محاولتها تحقيق هدف موجه من قبل الإنسان. السيناريوهات المحتملة في مشروع العقود الآجلة للذكاء الاصطناعي اعرض بعضًا من هذه الافتراضات المتعلقة بيوم القيامة، مع أصوات رائدة في ثورة الذكاء الاصطناعي يدعو إلى التباطؤ لضمان السلامة. وأظهر استطلاع للرأي أجري مؤخرا تأييدا ساحقا من الحزبين الجمهوري والديمقراطي رقابة حكومية أكبر من الذكاء الاصطناعي.
المصدر الأصلي: www.washingtonexaminer.com
