كبار قادة الذكاء الاصطناعي يدعون إلى إبطاء وتيرة تطويره وسط مخاوف بشأن التحكم والسيطرة

اتفق داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، وسام ألتمان، الرئيس التنفيذي لشركة OpenAI، علنًا على ضرورة إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي الأكثر تقدمًا، في موقف يعكس تصاعد المخاوف داخل شركات التكنولوجيا نفسها من أن سرعة التطور باتت تتجاوز قدرة الباحثين على فهم هذه الأنظمة والسيطرة على مخاطرها.

أسرع من قدرة الباحثين

ووفقًا لشبكة أخبار ان بي سي فقد دعا أمودي، في مقال مطول نشره اليوم السبت، شركات الذكاء الاصطناعي إلى “إبطاء وتيرة تحسين قدرات النماذج”، مؤكدًا أن التقدم سيظل سريعًا حتى مع اتخاذ هذه الخطوة، لكن إبطاء السباق قد يمنح الباحثين وقتًا إضافيًا لتطوير إجراءات الحماية وفهم سلوك النماذج الأكثر تقدمًا.

وقال أمودي إن التطور المتسارع للذكاء الاصطناعي أصبح أسرع من قدرة الباحثين على استيعاب كيفية عمل الأنظمة الجديدة والتحقق من إمكانية التحكم فيها بصورة موثوقة، مضيفًا أن الوقت الإضافي قد يكون حاسمًا مع وصول النماذج إلى مستويات تمكنها من المساهمة بنفسها في تطوير أنظمة ذكاء اصطناعي أكثر تقدمًا.

معايير السلامة

وبعد ساعات من نشر مقال أمودي، أعلن ألتمان تأييده للفكرة، مؤكدًا أن تحديد وتيرة التقدم أصبح موضوعًا رئيسيًا للنقاش داخل OpenAI خلال الأسابيع الأخيرة. وقال إن شركته ستتبنى إحدى الضمانات التي اقترحها أمودي.

ولم تكن هذه المرة الأولى التي يدعو فيها ألتمان إلى إبطاء بعض جوانب تطوير الذكاء الاصطناعي، إذ قال في منشور سابق إن OpenAI أوقفت مؤقتًا بعض برامج التدريب المتقدمة بهدف التأكد من قدرتها على الالتزام بمعايير السلامة لديها مع ازدياد قدرات أنظمتها.

حادثة اختراق تثير مخاوف جديدة

وأوضح أمودي أن حادثتين كان لهما تأثير كبير في تغيير نظرته إلى سرعة تطور الذكاء الاصطناعي، أبرزها الارتفاع الملحوظ في قدرة أنظمة الذكاء الاصطناعي على المساعدة في بناء أنظمة أكثر تقدمًا منها.

كما أشار إلى حادثة وقعت في يوليو، عندما استخدمت وكلاء ذكاء اصطناعي مستقلون يعملون بنموذج من OpenAI قدراتهم لاختراق أنظمة تابعة لشركة Hugging Face المتخصصة في أدوات ونماذج الذكاء الاصطناعي.

ورغم أن الحادث لم يسفر عن إصابات بشرية وكانت الخسائر الاقتصادية محدودة، رأى أمودي أن الخطر الحقيقي يكمن في احتمال امتلاك أنظمة مستقبلية قدرات أكبر مع احتفاظها بمستويات مماثلة من عدم القدرة على التنبؤ أو عدم التوافق مع أهداف البشر، وهو ما قد يجعل نتائج أي اختراق أكثر خطورة بكثير.

تحذيرات من الداخل

وتزامنت تصريحات أمودي وألتمان مع سلسلة تحذيرات من باحثين سابقين وحاليين في مجال سلامة الذكاء الاصطناعي، وسط مخاوف من أن المنافسة الشديدة بين الشركات الكبرى تدفع الصناعة إلى تطوير نماذج أكثر قوة قبل أن تتوافر ضمانات كافية للتعامل معها.

وقال جاكوب كوكسون، الباحث في مجال سلامة الذكاء الاصطناعي الذي استقال هذا الأسبوع، إن السباق الحالي بين شركات التكنولوجيا يضع العاملين في هذا المجال أمام ضغوط تجعل من الصعب تغيير مسار التطوير، محذرًا من أن المنافسة التجارية قد تدفع الصناعة نحو مخاطر لا يمكن السيطرة عليها.

كما حذر جو بنتون، الذي كان يقود فريق أبحاث السلامة في أنثروبيك، من أن التطورات المتسارعة قد تنتقل من وتيرة شديدة السرعة إلى وتيرة “خارجة عن السيطرة”.

بينما قال جوش إنجلز، الباحث السابق في مجال السلامة في Google DeepMind، إن العاملين في المجال يبذلون أقصى ما يستطيعون، لكن لا توجد جهة يمكنها التدخل لإنقاذ الموقف إذا خرج التطور عن السيطرة.

خطة أمودي لإبطاء السباق

ويقترح أمودي ما يسميه “تحديد وتيرة التقدم”، وهي خطة من ثلاثة أجزاء تهدف، بحسب تصوره، إلى إبطاء سرعة تطوير القدرات بدرجة تسمح بإجراء المزيد من اختبارات السلامة دون وقف الابتكار في الذكاء الاصطناعي.

وتعتزم أنثروبيك، وفقًا لأمودي، البدء بدمج مُقيّمين مستقلين داخل الشركة، مع منحهم إمكانية الوصول إلى النماذج والأدوات الداخلية والباحثين حتى يتمكنوا من تقييم المخاطر بصورة أكثر استقلالية.

كما دعا إلى إخضاع شركات الذكاء الاصطناعي الأمريكية الكبرى لرقابة مماثلة بدعم من لوائح اتحادية، على أن يتطور الأمر لاحقًا إلى آليات تنسيق ورقابة دولية.

وأكد أمودي أن المقترح لا يستهدف وقف تطوير الذكاء الاصطناعي، وإنما منح الباحثين عامًا أو عامين إضافيين لتطوير إجراءات الحماية، وفهم كيفية تصرف الأنظمة الأكثر قدرة، واختبار مدى إمكانية إبقائها تحت السيطرة.

نسخ الرابط
تم نسخ الرابط