قدم النائبان تيد ليو (ديمقراطي من كاليفورنيا) وناثانيال موران (جمهوري من تكساس) مشروع قانون من شأنه أن يأذن للحكومة بإغلاق أو تقييد نماذج الذكاء الاصطناعي المحفوفة بالمخاطر، بعد OpenAI كشفت ذلك خرجت نماذجها من بيئة خاضعة للرقابة واخترقت شركة أخرى دون توجيه بشري.
مشروع القانون، المعروف باسم قانون AI Kill Switch، سيمنح وزارة الأمن الداخلي، بالتشاور مع وزير التجارة ومدير المخابرات الوطنية، سلطة إصدار أوامر لشركات الذكاء الاصطناعي الرائدة بإغلاق نماذج الذكاء الاصطناعي الخطيرة أو الحد من معدلها والإبلاغ عن أي حوادث. يمكن أن يتعرض مطورو Frontier لغرامات تصل إلى 20 مليون دولار لكل انتهاك.
وقال ليو، الذي يشغل أيضًا منصب الرئيس المشارك للجنة الديمقراطية بمجلس النواب حول الذكاء الاصطناعي، في بيان: “نحن ننتقل من الذكاء الاصطناعي الذي يجيب على الأسئلة إلى الذكاء الاصطناعي الذي يتخذ إجراءات… يمكن لأنظمة الذكاء الاصطناعي القوية أن تتصرف بطريقة مارقة، أو تتصرف بطرق خطيرة للغاية، أو حتى تقاوم التدخل البشري”. إفادة.
ولم تستجب وزارة الأمن الوطني لطلب التعليق.
وجاء التشريع الذي تم تقديمه يوم الخميس بعد يومين فقط من الكشف عنه OpenAI اختراق Hugging Face، حيث انحرفت مجموعة من نماذج الذكاء الاصطناعي الخاصة بالشركة أثناء محاولتها إنجاز مهمة أثناء الاختبار الداخلي. وقال الخبراء إن الحادث أظهر مخاطر عمل الذكاء الاصطناعي بشكل مستقل.
“من الضروري أن تحتوي أنظمة الذكاء الاصطناعي هذه على مفاتيح إيقاف حتى نتمكن من الاحتفاظ بها تكنولوجيا وأضاف ليو: “من التسبب في ضرر كارثي، وأن الحكومة الفيدرالية لديها السلطة والإجراءات الواضحة لإغلاق نماذج الذكاء الاصطناعي المارقة”.
ويأتي التشريع المقترح أيضًا بعد أقل من شهرين من كشف النائبين جاي أوبرنولت (جمهوري عن ولاية كاليفورنيا) ولوري تراهان (ديمقراطي عن ولاية ماساتشوستس) عن التشريع قانون الذكاء الاصطناعي الأمريكي العظيم، والذي يتخذ طريقًا مختلفًا لمعالجة مخاوف مماثلة من خلال مطالبة شركات الذكاء الاصطناعي بإجراء عمليات تدقيق من طرف ثالث وتدوين مركز معايير الذكاء الاصطناعي والابتكار.
قدم موران أيضًا تشريعًا الشهر الماضي يتطلب من المطورين الإبلاغ حوادث خطيرة الى وزارة التجارة .
سينطبق قانون AI Kill Switch على شركات الذكاء الاصطناعي التي تدير نظام الذكاء الاصطناعي باستخدام قوة حاسوبية تكلف ما لا يقل عن 100 مليون دولار وتحصل على 500 مليون دولار على الأقل من الإيرادات من هذه التكنولوجيا سنويًا.
قال موران: “سيستمر الذكاء الاصطناعي في التقدم، وينبغي له أن يفعل ذلك”. “الإشراف يعني التأكد من احتفاظ البشر بالقدرة على التحكم في التكنولوجيا التي نبنيها.”
وزير الدولة ماركو روبيو “أوعز الدبلوماسيون في برقية لوزارة الخارجية نقلتها رويترز هذا إلزامي التقييمات الأمنية هي مجرد احتياطات للسلامة، وليست آلية للحكومة الأمريكية لإغلاق الوصول العالمي إلى التكنولوجيا.
وقالت البرقية: “إن الإيقاف المؤقت للاستخدامات الضيقة أو طلب نافذة اختبار مدتها 30 يومًا قبل إصدار تقنية جديدة قوية للغاية ليس بمثابة “مفتاح إيقاف””. لا يوجد زر سحري للحكومة. هذه الرواية مبالغ فيها ولا تعكس الفروق الدقيقة في سياسة التكنولوجيا الأمريكية.
يعد مشروع القانون الجديد أحد المقترحات القليلة المقدمة من الحزبين الجمهوري والديمقراطي والتي تتناول المخاطر التي تشكلها نماذج الذكاء الاصطناعي المتقدمة.
أعرب نشطاء مخاطر الذكاء الاصطناعي ControlAI، وThe Alliance for Secure AI، وThe AI Policy Network عن دعمهم العلني لمشروع القانون.
تتزايد المخاوف بشأن كسر النماذج للاحتواء بعد اختراق OpenAI لـ Hugging Face
في أعقاب الإعلان هذا الأسبوع عن الاختراق غير المقصود لبرنامج Hugging Face، أثار صناع السياسات والخبراء والمحللون مخاوف بشأن مخاطر إجراء اختبارات لتقييم الأنظمة الحدودية في بيئات يُزعم أنها خاضعة للسيطرة، حيث أظهر الحادث السيبراني غير المسبوق، والذي ربما يكون أول تهديد أمني للذكاء الاصطناعي من نوعه، خطر فشل الاحتواء.
نماذج OPENAI تم اختراقها بشكل مستقل في شركة للتعلم الآلي تعانق الوجه: “غير مسبوق”
“هذا أمر مقلق للغاية. الذكاء الاصطناعي يتطور بسرعة كبيرة مع عدم وجود لوائح حقيقية للحفاظ على سلامتنا،” النائب جريج كاسار (ديمقراطي من تكساس) نشرت على X. “وهذا يجب أن يتغير. نحن بحاجة إلى اختبارات السلامة والإشراف الإلزامي المستقل المنتظم، والكشف الإلزامي عن الحوادث الأمنية، والتعاون الدولي للحفاظ على سلامة الناس من الكوارث المطلقة.”
“ماذا يعني أن أنظمة الذكاء الاصطناعي الأكثر تقدمًا في العالم تكسر الاحتواء وتخترق شركات الذكاء الاصطناعي الأخرى؟” المدير التنفيذي لشركة Palisade Research جيفري لاديش سأل على X.
المصدر الأصلي: www.washingtonexaminer.com