مع اقتراب “نقطة اللاعودة.. خبراء يطورون دفاعات ضد الذكاء الاصطناعي الخارج عن السيطرة

وقالت البوابة إن قضايا الأمن المرتبطة بتطوير الذكاء الاصطناعي عادت إلى الواجهة، بعد أن أعلن الباحث في شركة “أنثروبيك” جيكوب كوكسون، في وقت سابق من هذا الأسبوع، قراره مغادرة قطاع تطوير الخوارزميات، مبررا خطوته بأن سباق شركات التكنولوجيا يقرب العالم من “نقطة اللاعودة”، وقد يقود إلى سيناريو كارثي بحلول نهاية عام 2027.

وبحسب كوكسون، فإن شركتي “أنثروبيك” و”أوبن إيه آي” تندفعان نحو تطوير عقل فائق قادر على تحسين نفسه بوتيرة أسرع من وتيرة معالجة مشكلات السلامة المرتبطة بهذه التقنيات.

وأيده في ذلك الباحث في شركة “أنثروبيك” إيفان هيوبينغر، قائلا: “أعتقد شخصيا أن احتمال القضاء على البشرية خلال العقد المقبل يزيد على 10%”.

وقالت البوابة: “يمكن للشركات إيقاف بعض الخوادم التي يعتمد عليها الذكاء الاصطناعي، لكن الأنظمة القوية حقا تعمل على أجهزة كمبيوتر ومنصات عديدة، ولا يوجد مفتاح واحد يمكن سحبه لإيقافها. ولهذا السبب تجري الشركات تجارب على أنظمة حماية متعددة المستويات، قادرة على اكتشاف السلوك المشبوه وإيقاف الوكلاء وقطع وصول الأنظمة الخارجة عن السيطرة إلى الموارد التي تحتاج إليها لمواصلة العمل”.

وأفاد ممثلو شركة “أوبن إيه آي” بأن هدفهم يتمثل في إيجاد “إجراءات إيقاف مستقلة تماما عند حدوث مشكلات خطيرة”، بحيث ينبه نظام مراقبة قائم على الذكاء الاصطناعي الموظفين إذا بدا له أن سلوك وكلاء الذكاء الاصطناعي يشكل خطرا، ويوقف النظام خلال 30 دقيقة إذا تأكد وجود التهديد.

وتراهن شركة “أنثروبيك” على الجمع بين الإنسان والذكاء الاصطناعي، إذ تراقب الخوارزميات النشاط المشبوه وتبلغ الموظفين عن الأخطاء في عمل النظام. ومع ذلك، أظهرت الاختبارات الأخيرة أن أنظمة المراقبة الآلية تمكنت من التعرف على 50% فقط من التهديدات.

وكان كبير المتخصصين في مجال التكنولوجيا بوزارة الدفاع الأمريكية “البنتاغون”، إميل مايكل، قد صرح في وقت سابق بأن المخاوف من قدرة الذكاء الاصطناعي على القضاء على البشرية تعكس الخوف من مواجهة التغيرات.

كما صرح الرئيس الأمريكي دونالد ترامب بأن ثورة الآلات الناجمة عن تطوير الذكاء الاصطناعي لن تحدث، مضيفا أنه في حال ظهور أي تهديد، فسيكون هناك “أداة صغيرة أخرى”.

المصدر: نوفوستي