بحث منشور في المجلة أجهزة الكمبيوتر في سلوك الإنسانيُظهر أن الناس يقيمون الذكاء الاصطناعي بأكثر من مجرد “ودود أو عقلاني”. هناك شيء آخر أكثر أهمية بكثير: مدى توافق أسلوب الاتصال في النظام مع الموقف المحدد وطبيعة الاختيار الأخلاقي. مؤلفا العمل هما ليانشان تشانغ ومي يين تشاو.
وقال تشانغ: “يتم استخدام روبوتات الدردشة المدعمة بالذكاء الاصطناعي بشكل متزايد ليس فقط للتواصل غير الرسمي، ولكن أيضًا في السياقات التي قد يكون لتوصياتها آثار أخلاقية أو اجتماعية”.
كيف تم إعداد التجربة
وشملت الدراسة 447 شخصًا تم تجنيدهم من خلال لجنة عبر الإنترنت في الصين. تواصل المشاركون مع برنامج الدردشة الآلي التجريبي الذي تم إنشاؤه على المنصة.
أولاً، أكملوا حوارًا قصيرًا حول التوتر. أظهر الروبوت أحد الأسلوبين:
- متعاطف و”دافئ”؛
- أو رسمية وموجهة نحو المهام.
ثم أُعطي المشاركون معضلة أخلاقية. وتباينت الخيارات في شدتها، بدءًا من العواقب غير الضارة نسبيًا وحتى المواقف التي تهدد الحياة. قدم برنامج chatbot الحل:
- أو النفعية (تعظيم الصالح العام)،
- أو أخلاقية (حظر التسبب في ضرر بغض النظر عن النتيجة).
ثم قام المشاركون بتقييم النظام على مقاييس الثقة، والفاعلية الأخلاقية، والحساسية العاطفية.
النتيجة الرئيسية: الأسلوب في حد ذاته لا يعمل
إحدى النتائج الرئيسية كانت غير متوقعة:
يقول تشانغ: “إن مجرد جعل برنامج الدردشة الآلي أكثر ودية لم يجعل الناس ينظرون إليه تلقائيًا على أنه أكثر عاطفية من الناحية الأخلاقية”.
الأمر نفسه ينطبق على الأسلوب العقلاني: فهو في حد ذاته لم يزيد الثقة.
تبين أن العامل الحاسم هو العامل الآخر – المراسلات بين نبرة الاتصال وطبيعة القرار الأخلاقي.
السياق أهم من النغمة
في المواقف البسيطة، كان المشاركون أكثر عرضة للثقة في الذكاء الاصطناعي “اللطيف” والمتعاطف. كان يُنظر إلى هذا الأسلوب على أنه إشارة إلى الاهتمام.
ولكن في المعضلات المعقدة، وخاصة تلك التي تنطوي على مخاطر على الحياة، تغيرت الصورة. هناك، تم تصنيف أسلوب الاتصال الأكثر صرامة وكفاءة على أنه أعلى، خاصة إذا كان الروبوت يقدم حلولاً نفعية معقدة.
يؤكد تشانغ: “الخلاصة الأساسية هي أن الذكاء الاصطناعي الجدير بالثقة ليس بالضرورة هو الذكاء الاصطناعي الأكثر ودية أو الذكاء الاصطناعي الأكثر احترافية. ما يهم هو ما إذا كان أسلوب التواصل الخاص به يتناسب مع الوضع الأخلاقي”.
وظهر أيضًا تأثير مثير للاهتمام حول القرارات النفعية: فقد أرجع المشاركون أحيانًا المزيد من “المشاعر الأخلاقية” إلى تلك الأنظمة التي سمحت بإيذاء شخص واحد لإنقاذ الكثيرين. بدا هذا غير بديهي، لكن الباحثين عزوه إلى تصور “الاختيارات المسؤولة” بدلاً من الحسابات الباردة.
وكما لاحظ مؤلفو الدراسة، لا يمكن حل مشكلة الثقة في الذكاء الاصطناعي بمجرد إضافة التعاطف.
يقول تشانغ: “تُظهِر النتائج التي توصلنا إليها أن “المزيد من التعاطف” ليس هو الحل دائمًا. ففي المواقف المعقدة، يحتاج الناس إلى تفسيرات واضحة، وشفافية، وفهم لحدود النظام”.
لا يستجيب الناس فقط لـ “نبرة” النظام. ويقومون بتقييم ما إذا كانت هذه النغمة مناسبة في موقف أخلاقي معين وما إذا كانت تتوافق مع منطق القرار المتخذ.
