— بيروت 📱 حمّل التطبيق
عاجل
عاجل: المستشار الأعلى لقائد القوة الجوفضائية في حرس الثورة العميد بلالي: القوات المسلحة في حالة جهوزية كاملة وأصابعها على الزناد وتنتظر أي خطأ في الحسابات أو حماقة يرتكبها العدوعاجل: مصادر فلسطينة: طيران الاحتلال المسير يستهدف بصاروخين قرب شركة الكهرباء بحي الصبرة جنوب مدينة غزةعاجل: الهلال الأحمر الفلسطيني: إصابة مواطن وزوجته في اعتداء مستوطنين عليهما بالضرب في منطقة المنيا جنوب شرقي بيت لحمعاجل: العميد بلالي: القوات المسلحة والميدان والجهاز الدبلوماسي للجمهورية الإسلامية الإيرانية يقفون جنباً إلى جنبعاجل: مصادر يمنية: طيران العدو السعودي يستهدف بسلسلة غارات عزلة بني شيبة بمديرية الشمايتينعاجل: مصادر يمنية: طيران العدوان السعودي يستهدف بغارة شبكة الاتصالات في عزلة ربوع الحدود بمديرية مجزعاجل: المتحدث باسم حرس الثورة العميد حسين محبي :مضيق هرمز لن يُفتح حتى استيفاء شروط ايران السبعةعاجل: مستشفى شهداء الأقصى: شهيد إثر قصف من مسيرة إسرائيلية على مخيم النصيرات وسط قطاع غزة فجر اليوم
beiruttime_ad_spaces_728x90
العرب والعالم

موظف سابق في أوبن إيه.آي: “انتهى عصر التجربة والخطأ”

نتقد موظف سابق في قسم السلامة لدى (أوبن إيه.آي)، قدم استقالته في الآونة الأخيرة، نهج الشركة تجاه سلامة الذكاء الاصطناعي، قائلا ​إن الثقافة المتسارعة…

100%
انتقد موظف سابق في قسم السلامة لدى (أوبن إيه.آي)، قدم استقالته في الآونة الأخيرة، نهج الشركة تجاه سلامة الذكاء الاصطناعي، قائلا ​إن الثقافة المتسارعة التي تركز على التطوير السريع تزيد من ‌مخاطر الإخفاقات.

وفي مقال نشرته مجلة (ذي أتلانتيك) اليوم السبت بعنوان “استقلت من أوبن إيه.آي لأن ثقافتها معيبة”، قال ديفيد روبنسون إن شركات الذكاء الاصطناعي، بما في ذلك أوبن ​إيه.آي، لا تتحلى بالحذر الكافي وينبغي لها أن تولي اهتماما أكبر ​للخبرة والبحوث في مجال السلامة قبل تطوير أنظمة بقدرات أكبر.

قال روبنسون “انتهى عصر التجربة والخطأ”، وأكد أن ​أنظمة الذكاء الاصطناعي المتقدمة تتطلب إجراءات وقائية أقرب إلى تلك المستخدمة في ​قطاعات مثل الطاقة النووية والطيران.

وأضاف روبنسون أن أوبن إيه.آي تعتمد إلى حد كبير على ما تسميه “النشر التكراري”، إذ تطلق الأنظمة وتعزز إجراءات الحماية عند ظهور المشكلات.

تأتي هذه ​التعليقات لتزيد من الجدل الدائر داخل قطاع الذكاء الاصطناعي حول ما إذا ​كانت الشركات تتحرك بسرعة مفرطة لتطوير أنظمة ذات قدرات متزايدة. وواجهت أوبن إيه.آي والشركة ‌المنافسة ⁠لها (أنثروبيك) تدقيقا شديدا عقب وقائع لم تفلح فيها ضوابط السلامة، أو تصرفت فيها الأنظمة التجريبية بنحو غير متوقع.

وكتب روبنسون، الذي قال إنه أمضى ثلاث سنوات ونصف السنة في أوبن إيه.آي وساعد في صياغة إطار عمل ​التأهب الخاص بالشركة وأشرف ​على تقارير ⁠السلامة في 12 عملية إطلاق لنماذج رائدة “مع اندفاع الشركة من عملية إطلاق إلى أخرى، فإنها تفشل في تحقيق ​مستوى العناية الذي أعتقد أنه ضروري”.

وقال متحدث باسم أوبن ​إيه.آي في ⁠بيان “نحرص على ألا تصبح نماذجنا قدراتها أكبر مما يمكننا إدارته بأمان أو تأمينه، ونوقف التدريب مؤقتا أو نؤجل إطلاق النماذج عندما نحتاج إلى إبطاء ⁠وتيرة العمل”.

وحذر ​روبنسون من أن قدرات الذكاء الاصطناعي تتقدم ​بوتيرة أسرع من فهم الباحثين لمفهوم “المواءمة”، وهو مجال يركز على ضمان أن تعمل أنظمة الذكاء ​الاصطناعي وفقا لأهداف البشر وقيمهم.

فريق التحرير
بقلم

فريق التحرير

حساب النشر الجماعي لموقع بتوقيت بيروت، الذي تديره The Verificat Agency بإدارة محمد قاسم. ينشر الأخبار والمتابعات المنسوبة إلى مصادرها، ويستخدم أدوات مساعدة في الجلب والترجمة والنشر. هذه التسمية لا تشير إلى صحافي فرد. معلومات الإدارة وسياسة التحرير والتواصل والتصحيحات متاحة في صفحة فريق التحرير.

جميع مقالات الكاتب ←