اجتماع إنساني مع البيت الأبيض لحل قيود Mythos وFable AI

ومع ذلك، قال ديفيد ساكس، قيصر الذكاء الاصطناعي في البيت الأبيض، إن الرئيس التنفيذي لشركة Anthropic، داريو أمودي، كان أقل تعاونًا عندما طلبت إدارة ترامب من الشركة حل مشكلة “الهروب من السجن”، مما دفع الإدارة إلى وضع قيود “على مضض” على وصول الجمهور إلى النماذج.

وقال ساكس: “في الماضي، قالت الأنثروبيك دائمًا أن السلامة يجب أن تكون على رأس الأولويات وأن تؤخذ على محمل الجد”. “في هذه الحالة، أعطت شركة Anthropic الأولوية لمواصلة تقديم نموذج المستهلك على حساب السلامة.”

وحاول أمودي تبديد مخاوف الإدارة في ثلاث مكالمات هاتفية منفصلة مع العديد من المسؤولين، وفقًا لما ذكرته صحيفة “نيويورك تايمز”. بوليتيكوبحجة أن التجاوز الأمني ​​الذي حدث لا يرقى إلى مستوى “الهروب من السجن” الذي من شأنه أن يسمح باستخدام النموذج دون حواجز الحماية التي وضعتها شركة Anthropic.

وبحسب ما ورد، لم يقتنع مسؤولو البيت الأبيض بحجة أمودي، واستشهدوا بالعثور على أمازون مؤخرًا طريقة لكسر حماية نموذج Mythos 5، كما ذكرت من قبل وول ستريت جورنال.

أنثروبي أصدر بيانا أعلن يوم الجمعة أنه سيتم تعليق الوصول إلى Fable 5 و Mythos 5 لأي مواطن أجنبي بعد أن أثارت الحكومة “مخاوف تتعلق بالأمن القومي”. ويعكس البيان ما قيل إن أمودي قاله لمسؤولي الإدارة حول حجم الانتهاك.

وقالت أنثروبيك: “لقد قمنا بمراجعة عرض توضيحي لهذه التقنية المحددة المستخدمة لتحديد عدد صغير من نقاط الضعف البسيطة المعروفة سابقًا”. “تبدو جميع نقاط الضعف هذه بسيطة نسبيًا، وقد وجدنا أن النماذج الأخرى المتاحة للجمهور قادرة على اكتشافها أيضًا دون الحاجة إلى تجاوز.”

وأوضحت أنثروبيك أنها لم تتلق سوى “أدلة شفهية” على “كسر حماية محدود وغير عالمي محتمل”، وقالت إنها لا توافق على رد الفعل لمنع النماذج المنشورة للجمهور.

يستخدم الباحثون في أمازون الذكاء الاصطناعي البشري للعثور على نقاط الضعف في الأمن السيبراني

وقال البيان: “إذا تم تطبيق هذا المعيار في جميع أنحاء الصناعة، فإننا نعتقد أنه سيوقف بشكل أساسي جميع عمليات نشر النماذج الجديدة لجميع موفري النماذج الحدودية”.

وضع وزير الحربية بيت هيجسيث القيود التي فرضها البيت الأبيض على قرار وزارته بإنهاء عقد البنتاغون مع شركة أنثروبيك، قائلاً إنها “الخطوة الصحيحة”.