عملاق الذكاء الاصطناعي Anthropic يعاني من نزيف برمجي استراتيجي

نشرت شركة Anthropic العملاقة للذكاء الاصطناعي عن طريق الخطأ كودها الداخلي السري للغاية، مما أثار موجة فيروسية من إعادة كتابة github وألحق أضرارًا تجارية كارثية محتملة بنموذج الأعمال المدعوم من Amazon.

وصف مطور برنامج Claude chatbot الحادث بأنه مشكلة تتعلق بالإصدار “نتج عن خطأ بشري وليس خرقًا أمنيًا” وفقًا لموقع أخبار التكنولوجيا الأمريكي VentureBeat يوم الثلاثاء.

تم تعيين الأنثروبي أ “خطر على الأمن القومي” أعلنها وزير الدفاع الأمريكي بيت هيجسيث في فبراير/شباط بعد خلافات مع البنتاغون حول استخدام أنظمة الذكاء الاصطناعي.

وتضمن التسريب أكثر من 500 ألف سطر من التعليمات البرمجية المرتبطة بـ Claude Code، مساعد التشفير بالذكاء الاصطناعي Anthropic، والذي يساعد المستخدمين على كتابة البرامج وإدارتها من خلال أوامر اللغة الطبيعية، وفقًا لموقع Axios وThe Verge. تضمنت المادة ميزات لم يتم إصدارها وبيانات الأداء وملاحظات المطورين.

انتشر الكود بسرعة عبر الإنترنت، حيث تم وضع نسخ من الكود على منصة مشاركة الكود GitHub وتكرارها آلاف المرات في غضون ساعات، وفقًا لموقع Ars Technica وThe Verge. وقالت التقارير إن شركة أنثروبيك تحركت لإزالة المادة وأصدرت إشعارات بالإزالة، لكن المادة تم نسخها وتوزيعها على نطاق واسع بالفعل.

بالنسبة الى VentureBeat، من خلال تعريض “المخططات” من كلود كود، ربما يكون التسرب قد أعطى “ممثلون سيئون” أ “خريطة الطريق” لتجاوز عمليات التحقق الأمني ​​أو خداع الأداة لتشغيل أوامر مخفية أو الوصول إلى البيانات دون علم المستخدم.

كشف تسرب بيانات منفصل تم الإبلاغ عنه في فبراير عن مواد داخلية تكشف عن تفاصيل نموذج Anthropic الذي لم يتم إصداره، والمعروف باسم Claude Mythos، بعد ترك الآلاف من مسودات المستندات متاحة في ذاكرة التخزين المؤقت للبيانات العامة.

تم وصف النموذج في المادة المسربة بأنه أقوى نظام للشركة حتى الآن والذي يمكن أن يطرحه “مخاطر أمنية غير مسبوقة” إذا تم نشرها على نطاق واسع. وقد امتنعت الشركة عن إصداره بسبب مخاوف بشأن قدراته واحتمال إساءة استخدامه، وفقا لمجلة الأعمال الأمريكية فورتشن.

يمكنك مشاركة هذه القصة على وسائل التواصل الاجتماعي:

تابعوا RT على