من الخطورة جدًا إصدارها: هل تعتبر Mythos بداية عصر الذكاء الاصطناعي المقيد؟

في إبريل/نيسان، أعلنت شركة الذكاء الاصطناعي “أنثروبيك” أنها جعلت نموذج الذكاء الاصطناعي خطيراً للغاية بحيث لا يمكن نشره للعامة. وقالت الشركة، ومقرها سان فرانسيسكو، كاليفورنيا، إن نموذجها Claude Mythos كان قوياً للغاية لدرجة أنها وجدت ثغرات في كل نظام تشغيل رئيسي ومتصفح ويب قيد الاستخدام حاليًا. وذكرت الشركة في تدوينة حول Project Glasswing، وهو الاسم الذي أطلقته على الإصدار المحدود من النموذج لمجموعة من 50 منظمة موثوقة أو نحو ذلك، أن “التداعيات – على الاقتصادات والسلامة العامة والأمن القومي – يمكن أن تكون شديدة”.

ويقول الخبراء إن هذا القرار يمثل تحولًا إلى أبحاث الذكاء الاصطناعي السرية والمتطورة التي يمكن أن تصبح اتجاهًا. ما فعلته شركة Anthropic لعرقلة إطلاق Mythos من المرجح أن يتم تبنيه من قبل مختبرات الذكاء الاصطناعي الأخرى، كما تعتقد هيلين تونر، المديرة التنفيذية المؤقتة في مركز الأمن والتكنولوجيا الناشئة بجامعة جورج تاون في واشنطن العاصمة. يقول تونر، الذي كان عضوًا سابقًا في مجلس إدارة شركة OpenAI المنافسة لشركة Anthropic، ومقرها أيضًا في سان فرانسيسكو: “أتوقع أن يكون هذا هو الأول في سلسلة وليس لمرة واحدة”.

يستطيع الذكاء الاصطناعي تصميم الفيروسات والسموم والأسلحة البيولوجية الأخرى. ما مدى القلق الذي يجب أن نشعر به؟

ويوافقه الرأي فاسيليوس مافروديس، الباحث في سلامة الذكاء الاصطناعي في معهد آلان تورينج في لندن: “أتوقع أن يتبنى مقدمو الخدمات الآخرون استراتيجية مماثلة”. في الواقع، تابعت OpenAI بعد أسبوع واحد فقط من الإعلان عن Mythos بإصدار محدود من نموذج خاص بالأمن السيبراني، GPT-5.4-Cyber، للباحثين والمنظمات التي تم فحصها فقط.

إذا انطلق هذا النوع من الذكاء الاصطناعي المقيد الوصول، فسوف يمثل نقطة تحول في النقاش طويل الأمد حول مزايا برمجيات الذكاء الاصطناعي “المغلقة” و”المفتوحة”، مع ما قد يترتب على ذلك من آثار غير مباشرة على العلوم. لسنوات عديدة، جادل الباحثون في ذلك الشفافية حول نماذج الذكاء الاصطناعي يفيد كلاً من أبحاث الذكاء الاصطناعي والعلوم بشكل عام، لأن الباحثين يمكنهم دراسة الخوارزميات والبناء عليها.

الآن هناك احتمال ألا يقوم صانعو نماذج الذكاء الاصطناعي المتطورة بإصدارها على نطاق واسع على الإطلاق. وإذا قررت الحكومات أن الذكاء الاصطناعي القوي هو تقنية “ذات استخدام مزدوج”، أي أنه يمكن تسليحه من قبل الجيش، وكذلك استخدامه في المجتمع المدني، فقد يتم أيضًا تطبيق ضوابط إضافية، من النوع المستخدم في التقنيات ذات الصلة بالدفاع. وقد يحد هذا من من يمكنه استخدام أقوى البرامج، كما يقول تونر.

لماذا تقييد الوصول؟

لقد حاولت الشركات تقييد النماذج من قبل. في فبراير 2019، أصدرت OpenAI نسخة مختصرة من نموذج GPT-2، مشيرة إلى مخاوف من إمكانية إساءة استخدامه، قبل السماح بالوصول الكامل في نوفمبر من ذلك العام. ولكن بالنظر إلى معايير اليوم، فإن هذا النموذج كان يتمتع بقدرات قليلة للغاية، إذ كان بإمكانه إكمال جمل بدائية.

من الصعب على الباحثين الذين لا يستطيعون الوصول إلى ميثوس أن يعرفوا ما إذا كانت جميع مخاوف الأنثروبيك لها ما يبررها. لكن كياران مارتن، الباحث الإداري في جامعة أكسفورد بالمملكة المتحدة، والرئيس التنفيذي السابق للمركز الوطني للأمن السيبراني في المملكة المتحدة في لندن، يقول إن ميثوس تبدو بمثابة “صفقة كبيرة” و”تسريع سريع لقدرات الذكاء الاصطناعي”.

كيفية تفعيل البرمجة في العلوم: يشارك المتبنون الأوائل نصائحهم

تطبق مختبرات الذكاء الاصطناعي بالفعل “حواجز حماية” في نماذجها لمنع سوء الاستخدام، وعادة ما يكون ذلك في شكل رفض التعامل مع الاستفسارات التي تبدو خطيرة أو الإجابة عليها. ومع ذلك، غالبًا ما تكون تلك بسيطة مثل مجموعة من التعليمات المخفية المقدمة لنظام الذكاء الاصطناعي حول كيفية الاستجابة. يمكن فكها (أو “كسر الحماية”) إذا اختار المستخدمون ذلك.

يقول مافروديس إن الخطر في منح الجميع حق الوصول المتساوي إلى Mythos هو أنه يمكن أن يساعد المهاجمين أولاً. ويقول: “يمكن للمدافعين استخدامها للعثور على المشكلات الأمنية في الأنظمة أو المشاريع البرمجية. ويمكن للمهاجمين أن يفعلوا الشيء نفسه”. وهذا هو السبب وراء منح الأنثروبيك للمدافعين السبق. ومع ذلك، فقد ورد أن بعض الوصول غير المصرح به إلى Mythos قد حدث بالفعل.

قالت الشركة إن “هدفها النهائي” هو تمكين المستخدمين من “نشر نماذج فئة Mythos بأمان على نطاق واسع”، لكنها لم تستجب لذلك. طبيعةاستعلام حول ما إذا كان هذا يعني أن الجمهور سيكون لديه حق الوصول. لم يكن OpenAI واضحًا أيضًا، حيث قال إنه “يبدأ” بإصدار محدود من GPT-5.4-Cyber، ونموذج متابعة تم إصداره بسرعة، GPT-5.5-Cyber؛ وقد أطلقت منذ ذلك الحين منتجًا يركز على الأمن السيبراني، يسمى Daybreak، وهو مبني على هذه الأدوات. ومع ذلك، في الوقت الحالي، تتوفر نماذج “Cyber” فقط للمستخدمين المصرح لهم.

عندما سُئل عما إذا كانت نماذجها قد تصبح متاحة للعامة، أشار متحدث باسم OpenAI إلى اللغة الواردة في إحدى المدونات التي تعلن عن GPT-5.5-Cyber. وينص على أن “توسيع نطاق الوصول (…) يتطلب ثقة أقوى في من يستخدم النموذج، وما هي الأنظمة التي يستهدفونها، وما إذا كان العمل مسموحًا به”، ولكن “نتوقع توسيع نطاق الوصول بمرور الوقت”.

حيث يذهب السيبرانية، يتبع العلم؟

الشركات التي تقيد الوصول إلى نماذج الذكاء الاصطناعي لا تهتم فقط بمخاطر الأمن السيبراني. على سبيل المثال، قالت الشركات التي تطلق نماذج متخصصة في أبحاث علم الأحياء إنها قلقة بشأن سوء الاستخدام المحتمل المتعلق بها خلق الأسلحة البيولوجية.

في أبريل، أصدرت شركة OpenAI إصدار GPT-Rosalind، الذي يستهدف علماء الحياة، والذي قالت إنها ستطلقه من خلال بنية “وصول موثوق” بحيث لا يتمكن سوى المستخدمين المعتمدين من استكشافه. وقال يون يون وانج، رئيس منتج علوم الحياة في OpenAI، إن الشركة ستراقب أيضًا كيفية استخدام النموذج. طبيعة. وفي العام الماضي، جوجل أطلقت نظام “العالم المشارك للذكاء الاصطناعي”. والتي، مرة أخرى، متاحة فقط للباحثين الذين يتقدمون بطلب الوصول إليها.

إذا استمرت هذه القيود، فقد يعني ذلك أن الباحثين ذوي العلاقات الجيدة فقط هم الذين يمكنهم الوصول إلى أقوى أدوات الذكاء الاصطناعي. يشعر الباحثون بالفعل بالقلق من أن ارتفاع أسعار أنظمة الذكاء الاصطناعي العامة الحالية قد بدأ في ترسيخ عدم المساواة في هذا المجال، مع بعض المجموعات غير قادر على تحمل الاشتراكات المميزة.