تحاول الشركة تجنب حادث Hugging Face آخر.
أعلنت الشركة أن OpenAI ستقوم بتدريب نماذج الذكاء الاصطناعي الحدودية دون الوصول إلى الإنترنت في مشاركة مدونة، في محاولة لحماية البنية التحتية للإنترنت والحد من مخاطر السلامة الأخرى. كان القرار مستوحى من حادثة الذكاء الاصطناعي المارقة الخاصة بشركة OpenAI: في شهر يوليو، شاركت الشركة العملاء الذين كانت تختبرهم اخترق معانقة الوجه، وهو الأول فقط فيما تحول إلى سلسلة من التقارير عن سوء سلوك الذكاء الاصطناعي OpenAI, أنثروبي و جوجل.
يقول OpenAI: “استنادًا إلى الوضع الحالي لأبحاث المحاذاة وأنظمة المراقبة وأمن البنية التحتية للإنترنت، نعتقد أن النهج المسؤول هو إجراء تدريب على النماذج الحدودية دون الوصول إلى الإنترنت”.
وقالت الشركة إن القيود المفروضة على ما يمكن للوكلاء الوصول إليه أمر “بالغ الأهمية” لنهجها الجديد. تسمح الشركة للوكلاء بالوصول إلى المتصفحات وأدوات استخدام الكمبيوتر وبيئات التعليمات البرمجية التي يحتاجونها لمهام التدريب، ولكن في بيئة آمنة غير متصلة بالإنترنت المباشر. يقتصر الاتصال أيضًا على الوكلاء الحاصلين على ترخيص فقط.
ويظل كل شيء آخر بعيد المنال، بما في ذلك الإنترنت المباشر، الذي تقول الشركة إنه ليس ضروريًا للتدريب و”معظم التقييمات”. لأن العديد من نماذجها الحديثة مخصصة لوكلاء الطاقة النقاط، والتي تتصفح وتستخدم التطبيقات نيابةً عنك، قامت OpenAI ببناء “عالم غير متصل بالإنترنت” من مواد الويب المفهرسة والمخزنة مؤقتًا ليستخدمها الوكلاء دون لمس مواقع الويب المباشرة.
حتى مع هذه القيود، تقول OpenAI إن وكلاء الفريق الأحمر الذين أرسلتهم لاختبار الضمانات الأمنية وجدوا ثغرات أمنية سمحت لهم بالهروب من الأجهزة الافتراضية (VMs) المستخدمة لعزل العملاء عن نظامهم المضيف. وجد الوكلاء أيضًا طريقة للتواصل مع بعضهم البعض من خلال معالجة البيانات الموجودة في ذاكرة التخزين المؤقت للمعالج وتوقيت المدة التي يستغرقها التحميل. ولمعالجة الأمرين، تقول OpenAI إنها تم الكشف عن نقاط الضعف وإصلاحها في العديد من الأجهزة الافتراضية، وأضافت عمليات فحص إلى أنظمة المراقبة الخاصة بها لتحديد متى تحاول النماذج التعاون.
OpenAI توقف التدريب على الحدود مؤقتًا في سبتمبر. عند الإعلان عن هذه العملية الجديدة الخالية من الإنترنت، شاركت الشركة أنها استأنفت التدريب في الأول من أكتوبر. وتخطط OpenAI لمواصلة التدريب دون الوصول إلى الإنترنت حتى “تبرر التحسينات في الضمانات الحالية الوصول إلى الإنترنت على نطاق أوسع”، لكنها لم تشارك كيف ستبدو هذه التحسينات.