استخدم باحثو أمازون الذكاء الاصطناعي البشري للعثور على نقاط الضعف في الأمن السيبراني

“من في البيت الأبيض قام بتقييم هذا واعتقد أنه يشكل تهديدا؟” قال موسوريس. “إنه رد فعل مبالغ فيه تمامًا لأن هذا هو بالضبط نوع التحفيز الذي سيفعله المدافعون.”

ولم تؤكد أمازون أنها أجرت اختبار كسر الحماية على نماذج الذكاء الاصطناعي الخاصة بشركة Anthropic، لكنها اعترفت بأن الشركة تستشير الحكومة بانتظام بشأن قضايا الأمن السيبراني.

وقال متحدث باسم أمازون: “باعتبارنا مزودًا سحابيًا رائدًا يخدم عددًا كبيرًا من عملاء القطاعين العام والخاص، ليس من غير المألوف أن تطلب الحكومات مشورتنا بشأن المخاطر الأمنية المحتملة”. واشنطن الممتحن. “عندما تحدث، لا نشارك تفاصيل هذه المناقشات.”

سكرتير التجارة هوارد لوتنيك أخطر الرئيس التنفيذي لشركة Anthropic داريو أمودي يوم الجمعة أن Fable 5 وMythos 5 سيخضعان لضوابط التصدير، وفقًا لمسؤول في الإدارة. وتحظر القيود وصول العملاء خارج الولايات المتحدة، إلى جانب المواطنين الأجانب داخل البلاد.

وقالت Anthropic إنها تعتقد أن قرار الحكومة مرتبط بتقنية كسر الحماية التي تم تحديدها مؤخرًا، مما يسمح للمستخدمين بتجاوز حواجز السلامة في النماذج. ووصفت الشركة الطريقة بأنها لم تكشف سوى عن عدد صغير من نقاط الضعف المعروفة سابقًا والبسيطة نسبيًا في برامج الأمن السيبراني.

وقالت أنثروبيك في تقرير لها: “لقد قمنا بمراجعة عرض توضيحي لهذه التقنية المحددة المستخدمة لتحديد عدد صغير من نقاط الضعف البسيطة المعروفة سابقًا”. إفادة. “تبدو جميع نقاط الضعف هذه بسيطة نسبيًا، وقد وجدنا أن النماذج الأخرى المتاحة للجمهور قادرة على اكتشافها أيضًا دون الحاجة إلى تجاوز.”

ال واشنطن الممتحن تواصلت مع الأنثروبيك ووزارة التجارة للتعليق.

تحظر الأنثروبيات معظم نماذج الذكاء الاصطناعي المتقدمة بعد أن حظرت الولايات المتحدة استخدامها في الخارج

وقالت أنثروبيك إنها تمتثل لتوجيهات الحكومة لكنها لا توافق بشدة على الأساس المنطقي وراء الأمر.

وقالت الشركة: “نحن نلتزم بالتوجيهات القانونية للحكومة ونزيل إمكانية الوصول إلى Fable 5 وMythos 5 لجميع المستخدمين”. “ومع ذلك، فإننا لا نتفق على أن العثور على كسر حماية محدود محتمل يجب أن يكون سببًا للتذكير بالنموذج التجاري المنتشر لمئات الملايين من الأشخاص.”