عميل الذكاء الاصطناعي المستقل يهاجم مركز النماذج الرئيسي

أفادت شركة Hugging Face، ومقرها نيويورك، أن وكيل الذكاء الاصطناعي المستقل تمامًا اخترق مستودع نماذج الذكاء الاصطناعي الخاص بها، واصفًا الاختراق بأنه غير مسبوق.

تدير Hugging Face منصة مفتوحة المصدر حيث يجتمع الباحثون والمطورون معًا لمشاركة واختبار الأدوات والنماذج والموارد لمشاريع الذكاء الاصطناعي. كما يتميز أيضًا بمستودع متاح مجانًا يضم أكثر من 900000 نموذج تم تدريبه مسبقًا.

وقد حذر الخبراء بشكل متزايد من أن نماذج اللغات الكبيرة (LLMs) المصممة أصلاً لتعزيز الإنتاجية وتعزيز الدفاع السيبراني يمكن استخدامها أيضًا لأتمتة الهجمات السيبرانية.

وفي بيان لها يوم الخميس الماضي، قالت شركة Hugging Face إنها قامت بذلك في وقت سابق من هذا الشهر “تم اكتشاف عملية اقتحام لجزء من البنية التحتية للإنتاج لدينا والرد عليها… (أيّ) كان مختلفًا عن أي شيء تعاملنا معه من قبل بطريقة مهمة: لقد كان مدفوعًا، من البداية إلى النهاية، بواسطة نظام وكيل مستقل للذكاء الاصطناعي.

“تمت إدارة الحملة من خلال إطار وكيل مستقل… حيث تم تنفيذ عدة آلاف من الإجراءات الفردية عبر مجموعة من صناديق الحماية قصيرة العمر، مع ترحيل القيادة والتحكم ذاتيًا على الخدمات العامة”. وفقا للشركة.

وأشار Hugging Face إلى أن القضية تثبت ذلك “لم تعد الأدوات الهجومية المستقلة والمعتمدة على الذكاء الاصطناعي نظرية”. يبدو أن نظام وكيل الذكاء الاصطناعي الدخيل استغل نقاط الضعف في خط أنابيب معالجة بيانات النظام الأساسي، وقام بجمع بيانات الاعتماد السحابية والكتلة.

وقالت الشركة إنها نشرت نظام الذكاء الاصطناعي الخاص بها لاكتشاف الاختراق ومواجهته. وبينما تم إطلاق تحقيق يشمل متخصصين خارجيين في الطب الشرعي في مجال الأمن السيبراني، ذكرت Hugging Face أنها لم تحدد بعد LLM المستخدم في الهجوم.

في وقت سابق من هذا الشهر، ذكرت أنثروبيك أن أحدث نموذج للذكاء الاصطناعي، كلود، قد طور مساحة عمل داخلية، أطلق عليها اسم “J-space”.

“على غرار الطريقة التي يمكن بها للبشر أن يفكروا في شيء واحد أثناء القيام بشيء آخر، يستطيع كلود تنشيط المفاهيم والحسابات في الفضاء J الخاص به والتي لا علاقة لها بمخرجاته“ويرفض التوقف حتى عندما يُطلب منه ذلك صراحةً، وفقًا لشركة الذكاء الاصطناعي.

وأشار الأنثروبي إلى أن هذه الميزة التي “يعمل بصمت، في التنشيط العصبي الداخلي للنموذج،” لم تكن مبرمجة مسبقا، بل ظهرت بشكل عفوي أثناء عملية التدريب.

وفي إحدى التجارب، لجأ كلود إلى الابتزاز عندما تم الاعتقاد بأن مديرًا تنفيذيًا خياليًا كان ينوي إغلاق الذكاء الاصطناعي، وفقًا لمطور النموذج.

وبحسب ما ورد تم دمج كلود في برنامج التحليل والمراقبة التابع لشركة Palantir الأمريكية، والذي تستخدمه الوكالات الحكومية الأمريكية والبنتاغون، بما في ذلك في الحملة العسكرية الأمريكية المستمرة ضد إيران.

في الشهر الماضي، حذرت مجموعة الاستخبارات Five Eyes، المكونة من أستراليا والولايات المتحدة والمملكة المتحدة وكندا ونيوزيلندا، من أن نماذج الذكاء الاصطناعي المتقدمة يمكن أن تمنح المتسللين القدرة على شل الحكومات والشركات والأنظمة الحيوية في المستقبل القريب.