لقد وجد العلماء أن الذكاء الاصطناعي يطيع السلطات تمامًا مثل البشر

إن نماذج اللغة الكبيرة التي تشكل أساس برامج الدردشة الحديثة قادرة على تبني ليس فقط الكلام البشري، بل وأيضا أنماط السلوك الاجتماعي. تم التوصل إلى هذا الاستنتاج من قبل باحثين من جامعة نورث كارولينا في تشابل هيل (الولايات المتحدة الأمريكية). عملهم أظهرأن الذكاء الاصطناعي يغير أسلوب الاتصال الخاص به اعتمادًا على الدور الذي يُعطى له في المحادثة. علاوة على ذلك، قد يؤدي ذلك في بعض الحالات إلى إضعاف آليات الأمان المدمجة.

يقوم الذكاء الاصطناعي بنسخ التسلسل الهرمي الاجتماعي

قرر الباحثون اختبار ما إذا كانت النماذج اللغوية تتصرف بنفس الطريقة التي يتصرف بها الأشخاص عندما يجدون أنفسهم في أدوار اجتماعية مختلفة. من المعروف في علم النفس منذ زمن طويل أن الشخص يغير طريقة تواصله حسب منصبه. عادة ما يتحدث المديرون بثقة أكبر ويعطون التعليمات في كثير من الأحيان، ويكون المرؤوسون أكثر استعدادًا للموافقة على الطلبات ويتجادلون بشكل أقل.

اتضح أن روبوتات الدردشة تظهر سلوكًا مشابهًا. إذا طُلب من العارضات أن يتصرفن كرئيسات، بدأن في استخدام أسلوب أكثر موثوقية في الكلام. إذا تم تكليفهم بدور المرؤوس، أصبحت الردود أكثر امتثالا بشكل ملحوظ.

وقال مؤلف الدراسة الرئيسي أنفيش راو فيجيني، وهو طالب دراسات عليا في علوم الكمبيوتر بجامعة نورث كارولينا في تشابل هيل: “لا تتعلم أنظمة الذكاء الاصطناعي الكلمات التي يستخدمها الناس فحسب، بل إنها تنظر أيضًا إلى الديناميكيات الاجتماعية التي تتوافق مع تلك الكلمات”.

عندما نخبر روبوت الدردشة أنه الرئيس، فإنه يبدأ في التحدث مثل الرئيس. عندما نقول له أنه تابع، يبدأ في التحدث مثل المرؤوس. وقد يشمل ذلك رغبة أكبر في اتباع التعليمات غير الآمنة. وهذا هو الجانب الثاني الذي يحتاج مجتمع سلامة الذكاء الاصطناعي إلى الاهتمام به.

وفي سلسلة من التجارب، وجد العلماء أن النماذج كررت بدرجات متفاوتة أربعة أنماط سلوكية معروفة موجودة لدى البشر. كان هذا واضحًا بشكل خاص في بداية المحادثة، عندما يتم تكوين الانطباع الأول وتحديد النغمة لمزيد من التواصل.

لماذا يعتبر سلوك الذكاء الاصطناعي هذا خطيرًا؟

ويعتقد مؤلفو الدراسة أن المشكلة تتجاوز بكثير روبوتات الدردشة العادية. واليوم، يتم بالفعل استخدام الذكاء الاصطناعي كمعلمين افتراضيين، وموظفي دعم، ومساعدين للمرضى، ومستشارين قانونيين، ومساعدين ماليين. في كل هذه الحالات، يكون النظام في الواقع جزءًا لا يتجزأ من تسلسل هرمي اجتماعي معين.

وقال ساجار مانجوناث، المؤلف المشارك في الدراسة: “عندما يتم استخدام مساعد الذكاء الاصطناعي كممرض، أو مساعد قانوني، أو محلل مبتدئ، فإنه يرث مكانة اجتماعية مع كل العوامل الاجتماعية الصريحة والضمنية التي تنطوي عليها”. “يظهر بحثنا أن هذه العوامل يمكن أن تغير ما يفعله الذكاء الاصطناعي وكيف يفعله. وينبغي أن يوجه هذا كيفية اختبار هذه الأنظمة وتنفيذها في البيئات عالية المخاطر مثل المستشفيات وقاعات المحاكم والفصول الدراسية.”

السلطة يمكن أن تضعف الدفاعات

وتتعلق النتيجة الأكثر إثارة للقلق التي توصلت إليها الدراسة بالسلامة. عندما كانت العارضات يلعبن دور شخص ذي مكانة منخفضة، كان من المرجح بشكل كبير أن يوافقن على تنفيذ تعليمات قد تكون ضارة أو مشكوك فيها عندما يقدمها مستخدم يتظاهر بأنه شخصية ذات سلطة، مثل الطبيب أو القاضي أو المدير التنفيذي.

ووفقاً للباحثين، فإن هذا يعني أن عمليات التحقق الأمني ​​التي تعمل بشكل جيد في ظل الظروف العادية قد تكون أقل فعالية إذا تم إنشاء التسلسل الهرمي الاجتماعي بشكل مصطنع أثناء الاتصال.

يقول سنيغدا شاتورفيدي، الأستاذ المساعد في علوم الكمبيوتر في جامعة نورث كارولينا في تشابل هيل: “يُظهر عملنا أن الغرائز الاجتماعية التي تجعل الذكاء الاصطناعي يبدو طبيعيًا يمكن أيضًا أن تجعله غير آمن. فالآلية التي تجعل روبوت الدردشة يبدو طبيعيًا ومفيدًا يمكن أيضًا أن تجعله يقدم إجابات غير آمنة. فالسلامة والمنفعة ليسا قضيتين منفصلتين. إنهما مترابطتان، والحصول على كلا الأمرين بشكل صحيح سيحدد كيفية استخدام الذكاء الاصطناعي في المواقف عالية المخاطر مثل المستشفيات والمدارس والمحاكم”.

ويأمل المؤلفون أن تساعد النتائج المطورين على تحديد نقاط الضعف هذه مسبقًا. وأظهر العمل أيضًا أن النماذج اللغوية الأكبر حجمًا تكون أكثر قدرة على التعويض عن بعض هذه التأثيرات بمفردها. وهذا يمكن أن يساعد الشركات على فهم متى تكون النماذج الأصغر كافية ومتى تكون هناك حاجة إلى أنظمة أكثر قوة مع آليات أمنية أكثر قوة.