كبير
وقال مسؤول في البيت الأبيض، طلب عدم الكشف عن هويته لمناقشة الاجتماع المقرر يوم الجمعة، إن الإدارة تتواصل مع مختبرات الذكاء الاصطناعي المتقدمة حول نماذجها وأمن البرمجيات. وشدد المسؤول على أن أي تقنية جديدة قد تستخدمها الحكومة الفيدرالية ستتطلب فترة فنية للتقييم.
ويأتي الاجتماع بعد تصاعد التوترات بين إدارة ترامب والأنثروبيك المهتمة بالسلامة، والتي سعت إلى وضع حواجز أمام تطوير الذكاء الاصطناعي لتقليل أي مخاطر محتملة وتعظيم فوائده الاقتصادية والأمنية القومية للولايات المتحدة.
حاول الرئيس دونالد ترامب منع جميع الوكالات الفيدرالية من استخدام برنامج الدردشة الآلي الخاص بشركة Anthropic، كلود، بشأن نزاع عقد الشركة مع البنتاغون، حيث قال ترامب في منشور على وسائل التواصل الاجتماعي في فبراير/شباط إن الإدارة “لن تتعامل معهم مرة أخرى!”
كما سعى وزير الدفاع بيت هيجسيث إلى إعلان أنثروبيك تمثل خطراً على سلسلة التوريد، وهي خطوة غير مسبوقة ضد شركة أمريكية طعنت فيها أنثروبيك أمام محكمتين فيدراليتين. وقالت الشركة إنها تريد ضمانات بأن البنتاغون لن يستخدم تكنولوجيتها في الأسلحة المستقلة بالكامل ومراقبة الأميركيين. وقال هيجسيث إن الشركة يجب أن تسمح بأي استخدامات يعتبرها البنتاغون قانونية.
أصدرت قاضية المحكمة الجزئية الأمريكية ريتا لين حكما في مارس/آذار يمنع تنفيذ توجيهات ترامب بشأن وسائل التواصل الاجتماعي التي تأمر جميع الوكالات الفيدرالية بالتوقف عن استخدام المنتجات البشرية.
يشاهد: لماذا تتصادم إدارة ترامب مع شركة الذكاء الاصطناعي أنثروبيك؟
ورفضت أنثروبيك الحديث عن الاجتماع مقدما.
قالت شركة Anthropic ومقرها سان فرانسيسكو إن نموذج Mythos الجديد الذي أعلنت عنه في 7 أبريل “قادر بشكل لافت للنظر” لدرجة أنه يحد من استخدامه لاختيار العملاء بسبب قدرته على تجاوز خبراء الأمن السيبراني البشري في العثور على ثغرات الكمبيوتر واستغلالها.
وبينما تساءل بعض خبراء الصناعة عما إذا كانت ادعاءات Anthropic بأن تكنولوجيا الذكاء الاصطناعي القوية للغاية كانت بمثابة حيلة تسويقية، فقد اقترح بعض أشد منتقدي الشركة أن Mythos قد يمثل تقدمًا إضافيًا في الذكاء الاصطناعي.
وقال ديفيد ساكس، أحد الناقدين الأنثروبولوجيين المؤثرين، والذي كان مسؤول الذكاء الاصطناعي والعملات المشفرة في البيت الأبيض، إن على الناس “أن يأخذوا هذا على محمل الجد”.
وقال ساكس في برنامج “All-In” الذي يستضيفه مع مستثمرين آخرين في مجال التكنولوجيا: “في أي وقت تخيف فيه الأنثروبولوجيا الناس، عليك أن تسأل: هل هذا تكتيك؟ هل هذا جزء من روتينهم الخاص بـ Chicken Little؟ أم أنه حقيقي؟” “فيما يتعلق بالإنترنت، سأمنحهم الفضل في هذه الحالة وأقول إن هذا يتعلق أكثر بالجانب الحقيقي.”
قال ساكس: “من المنطقي أنه مع زيادة قدرة نماذج البرمجة، تصبح أكثر قدرة على اكتشاف الأخطاء. وهذا يعني أنها أكثر قدرة على العثور على الثغرات الأمنية. وهذا يعني أنها أكثر قدرة على تجميع ثغرات متعددة معًا وإنشاء ثغرات.”
كما اجتذبت الفوائد المحتملة لهذا النموذج، فضلاً عن مخاطره، الاهتمام خارج الولايات المتحدة
وقال معهد أمن الذكاء الاصطناعي في المملكة المتحدة إنه قام بتقييم النموذج الجديد ووجده “خطوة للأمام” مقارنة بالنماذج السابقة، التي كانت تتحسن بسرعة بالفعل.
وقال المعهد في تقرير: “يمكن لـMythos Preview استغلال الأنظمة ذات الوضع الأمني الضعيف، ومن المحتمل أن يتم تطوير المزيد من النماذج بهذه القدرات”.
وقال المتحدث باسم المفوضية الأوروبية توماس ريجنير يوم الجمعة إن شركة أنثروبيك تجري أيضًا محادثات مع الاتحاد الأوروبي بشأن نماذج الذكاء الاصطناعي الخاصة بها، بما في ذلك النماذج المتقدمة التي لم يتم إصدارها بعد في أوروبا.
أبلغ موقع Axios لأول مرة عن الاجتماع المقرر بين ويلز وأمودي.
عندما أعلنت شركة Mythos، قالت Anthropic إنها تشكل أيضًا مبادرة تسمى Project Glasswing، تجمع بين عمالقة التكنولوجيا مثل Amazon وApple وGoogle وMicrosoft، إلى جانب شركات أخرى مثل JPMorgan Chase، على أمل تأمين البرامج المهمة في العالم من التداعيات “الشديدة” التي يمكن أن يشكلها النموذج الجديد على السلامة العامة والأمن القومي والاقتصاد.
وقال جاك كلارك، المؤسس المشارك ورئيس السياسات في شركة أنثروبيك، في مؤتمر سيمافور للاقتصاد العالمي هذا الأسبوع: “إننا نصدره لمجموعة فرعية من أهم الشركات والمنظمات في العالم حتى يتمكنوا من استخدامه للعثور على نقاط الضعف”.
وأضاف كلارك أن ميثوس، رغم تقدمه على المنحنى، ليس “نموذجًا خاصًا”.
وقال: “ستكون هناك أنظمة أخرى مثل هذه في غضون بضعة أشهر من شركات أخرى، وفي غضون عام إلى عام ونصف، ستكون هناك نماذج ذات وزن مفتوح من الصين تتمتع بهذه القدرات”. لذلك سيتعين على العالم أن يستعد لأنظمة أكثر قوة ستتواجد داخله”.
أفاد أوبراين من بروفيدنس، ساهم كلفن تشان، مراسل الأعمال في RI AP، في هذا التقرير من لندن.
المصدر الأصلي: www.pbs.org