سيناريوهات الذكاء الاصطناعي المرعبة ضد البشرية.. حقيقية أم تخدم مصالح خفية؟

وقد اشتد الجدل في قطاع التكنولوجيا والمجتمع بعد أن دعا عدد من المديرين البارزين إلى إبطاء تطوير الذكاء الاصطناعي لمعالجة مخاوف السلامة. لكن بعض المتشككين يرون أن أسوأ السيناريوهات التي تصفها شركات الذكاء الاصطناعي نفسها تهدف أكثر إلى تأكيد أهمية عملها من عكس الواقع.

ويقول خوان أندريس غيريرو-سعادة، الباحث في شركة الأمن السيبراني “سينتينل وان” وعضو “مجلس المخاطر الحدودية” في OpenAI: “هذه الحجج لا تصمد حقا. أعتقد أنها خيال علمي وجذابة لنمط تفكير طفولي معين، وهي مغرية جدا للمختبرات الرائدة لأنها تساعدها في استقطاب أنواع معينة من الأشخاص”. ومع ذلك، يتصاعد القلق العام بشأن مخاطر تكنولوجيا أبهرت العالم بتقدمها السريع. وقال جيكوب كوكسون، الباحث في “أنثروبيك” الذي استقال بسبب مخاوف من أن الشركة ومنافسيها لا يتصرفون بمسؤولية، إنه يحتاج إلى “العمل على” توصيل للناس بشكل أكثر فعالية كيف سينهي الذكاء الاصطناعي البشرية، مضيفا: “للأسف، من الصعب جدا نقل سيناريوهات محددة”. وفيما يلي أبرز السيناريوهات الكارثية الأكثر تداولا.

• الشتاء النووي

لطالما تكهن الخبراء بأن تطبيقات الذكاء الاصطناعي قد تشعل حربا نووية عبر تضليل الدول لإطلاق صواريخ على خصومها. وقد يؤدي الانفجار النووي الأولي، يليه الترسيب الإشعاعي المعروف باسم “الشتاء النووي”، إلى تدمير الحياة على الكوكب. وفي تقرير العام الماضي، خلص باحثو مؤسسة RAND إلى أنه “في الوقت الحالي” لا يمكن للذكاء الاصطناعي أن يسبب استخدام الأسلحة النووية “بسبب الضمانات الصارمة في أنظمة القيادة والتحكم”، لكن هذا قد يتغير إذا دمجت النماذج في “سلسلة القرار” النووية أو حصلت على وصول غير مصرح به. وبالنسبة لكثير من الباحثين، فإن الخطر الأساسي لا يكمن في برامج واعية تقرر فجأة تدمير البشرية، بل في الحكومات أو المنظمات أو الأفراد الذين يتلاعبون بالأدوات للقضاء على خصومهم.

• الأسلحة البيولوجية

أحد وعود الذكاء الاصطناعي الكبرى هو مساعدة العلماء في إنشاء علاجات رائدة، لكن الجانب المعاكس يتضمن تصميم مسببات أمراض لإحداث ضرر واسع. وقد أعلنت “أنثروبيك” مؤخرا أنها اعترضت محاولات فاعلين خبيثين لاستخدام أنظمتها في أنشطة خطيرة، منها الهجمات الشبكية والمراقبة والبحث الموجه نحو الأسلحة البيولوجية. وفي إحدى الحالات، منعت أنظمتها طلبا للمساعدة من أداة “كلود” (Claude) بشأن بحث يسعى لتعزيز طفرات فيروس “شيكونغونيا” المنقول بالبعوض ليصبح أكثر ضررا. ورغم أن هذا البحث قد يطور لقاحات أفضل، قالت الشركة إنه “يمكن أيضا استخدامه لجعل مسبب المرض أكثر خطورة”. وفي تقييم مشابه، لاحظ تقرير RAND أن التقدم في الذكاء الاصطناعي “لديه القدرة على تحويل تصميم مسببات الأمراض الاصطناعية”، ووصف كيف يمكن هندسة مسببات أمراض جديدة في المختبرات ونقلها وتوزيعها لإصابة مجموعات كبيرة، ورغم ذلك، توقعت الدراسة أن يدير البشر هذه العملية لا البرمجيات.

• الذكاء الاصطناعي الجامح

يحذر بعض الباحثين من أن انقراض البشر قد يحدث بسبب “عدم التوافق”، حيث تعمل النماذج دون موافقة بشرية أو تنسق فيما بينها أو تتجاوز الرقابة. ولن يحدث هذا من حقد متعمد، لأن البرمجيات لا تملك مشاعر، بل لأن البشر قد يعرقلون الآلة عن إكمال هدفها.

ويتضح هذا من خلال تجربة فكرية شهيرة قدمها الفيلسوف نيك بوستروم وتسمى “مُعظِّم مشابك الورق”. وتفترض التجربة أنه لو أعطي نظام ذكاء اصطناعي متقدم أمرا بسيطا: “صنّع أكبر عدد ممكن من مشابك الورق”، فقد يبالغ في تنفيذ الأمر لدرجة أنه يحول الأرض كلها، ثم الفضاء من حولها، إلى مصانع لمشابك الورق.

وكتب بوستروم عام 2003 محذرا: “علينا أن نكون حذرين فيما نتمناه من الذكاء الفائق، لأننا قد نحصل عليه فعلا”.

• سيطرة الذكاء الاصطناعي على الإنترنت

حذر داريو أمودي، الرئيس التنفيذي لـ”أنثروبيك”، هذا الشهر من أنه في غضون أشهر قد يكون سرب من وكلاء الذكاء الاصطناعي قادرا على “الاستيلاء” على الإنترنت عبر شبكة روبوتات خبيثة، ما قد يسبب أضرارا بمليارات الدولارات عبر اختراق شبكات الكهرباء والمياه والنقل والأنظمة المالية. ورغم أن أعطالا برمجية سابقة كشفت هشاشة البنية الرقمية العالمية، يرى عدد من الخبراء أن فكرة سيطرة وكلاء آليين على الإنترنت العالمي بأكمله غير واقعية.

المصدر: إندبندنت