يحذر المسؤولون البريطانيون من أن التكنولوجيا المستقلة يمكن أن تنفذ الصفقات دون إشراف بشري، مما يزيد من خطر انهيار السوق
حذر بنك إنجلترا من أن وكلاء الذكاء الاصطناعي الذين يمكنهم اتخاذ القرارات وتنفيذ المعاملات بشكل مستقل يمكن أن يعملوا قريبًا عبر النظام المالي، مضيفًا أن الاعتماد على الإشراف البشري قد لا يكون واقعيًا.
وجهت نائبة محافظ بنك إنجلترا، سارة بريدين، هذا التحذير في المنتدى السنوي للبنك المركزي الأوروبي في سينترا يوم الثلاثاء، حيث تحول كبار المطورين من روبوتات الدردشة المنتجة للذكاء الاصطناعي إلى الأنظمة الوكيلة.
على عكس أدوات الذكاء الاصطناعي التوليدية مثل ChatGPT وGemini وClaude، التي تولد النصوص والصور والتعليمات البرمجية استجابةً للمطالبات، تم تصميم الذكاء الاصطناعي الوكيل لإكمال مهام متعددة الخطوات مع تدخل بشري محدود.
فبدلاً من مجرد التوصية باستثمار أو اقتراح شراء، يمكن لوكيل الذكاء الاصطناعي تنفيذ الصفقات وإجراء المدفوعات وشراء السلع وحجز الخدمات دون الحاجة إلى موافقة بشرية على كل إجراء.
وقال بريدين إن النظام المالي من المرجح أن يفعل ذلك “تتطور إلى نظام يعمل بشكل أكثر استقلالية وعلى نطاق واسع وسرعة.”
عندما يصبح عملاء الذكاء الاصطناعي أكثر قدرة، “الاعتماد على إنسان مطلع على جميع تصرفات العميل من غير المرجح أن يكون واقعيًا” وقالت، بحجة أن الأطر التنظيمية الحالية “لم تُخلق للتأمل” هذا السيناريو.
وحذر بريدين من أن عملاء الذكاء الاصطناعي المدربين على بيانات مماثلة والاستجابة لنفس إشارات السوق يمكن أن يظهروا سلوك القطيع، ويتخذون قرارات تداول متطابقة في وقت واحد، مما يؤدي إلى تضخيم تقلبات السوق خلال فترات التوتر.
يجب على المنظمين فحص “ما إذا كانت هناك حاجة إلى حواجز حماية، مماثلة لقواطع الدائرة الكهربائية أو مفاتيح إيقاف من شأنها أن تحد أو توقف التداول على مستوى السوق إذا تسببت نماذج الذكاء الاصطناعي الخاطئة في انهيار السوق”. قال بريدين.
كما حثت البنوك المركزية على الاستعداد لمزيد من التكرار “مفاجآت تكنولوجية” قائلًا إن التطورات الأخيرة في الذكاء الاصطناعي تجاوزت بالفعل توقعات صناع السياسات.
وتأتي تصريحاتها في الوقت الذي تتعامل فيه الحكومات بشكل متزايد مع الذكاء الاصطناعي باعتباره قضية أمن قومي. تدخلت واشنطن مؤخرًا في طرح بعض نماذج الذكاء الاصطناعي المتقدمة بسبب مخاوف تتعلق بالأمن السيبراني، بينما يواصل مطورو الذكاء الاصطناعي المضي قدمًا في الأنظمة الوكيلة. كشفت Anthropic النقاب عن Claude Sonnet 5 هذا الأسبوع، وهو أحدث طراز لها مصمم لأداء مهام معقدة نيابة عن المستخدمين.
وقد وصل التوجه نحو الذكاء الاصطناعي العميل أيضًا إلى البنتاغون. وفي الأسبوع الماضي، كشفت النقاب عن عملاء الذكاء الاصطناعي المصممين للتحليل المستمر للمعلومات الاستخباراتية وإنشاء خيارات استهداف سريعة للقادة، مع التأكيد على أن البشر سيحتفظون بسلطة اتخاذ القرار النهائي.
يمكنك مشاركة هذه القصة على وسائل التواصل الاجتماعي:
