يتحدث رئيس الأبحاث في OpenAI عن “إعادة ضبط الثقافة” بعد أسابيع قليلة صعبة

كانت شركة الذكاء الاصطناعي، ومقرها سان فرانسيسكو، كاليفورنيا، في قلب سلسلة من العواصف الإعلامية. أولاً، في يوليو، أعلنت الشركة أن نماذجها اخترقت مركز الذكاء الاصطناعي Hugging Face ، وهي منصة تعاونية حيث يشارك المستخدمون النماذج ومجموعات البيانات. هذا الأسبوع، الحكومة الاسترالية كشفت أن عملاء OpenAI قد انتهكوا موقعًا وطنيًا للرعاية الصحية. وفي وقت سابق من هذا الشهر، أعلنت الشركة أن نماذجها قد تم حلها مشكلة كبيرة في الرياضيات – لكن ثم واجه الاقتراحات أن النجاح نابع من نماذجها التي استوعبت التقدم الذي حققه علماء الرياضيات من البشر.

في أثناء، تزايدت الدعوات لتنظيم الذكاء الاصطناعي. أعرب قادة شركات الذكاء الاصطناعي، بما في ذلك شركة OpenAI ، عن مخاوفهم من أن إطلاق العنان للنماذج لتعزيز قدراتها الخاصة، من خلال نسخة مستقلة تمامًا من عملية تعرف باسم التحسين الذاتي العودي، قد يؤدي إلى فقدان البشر السيطرة على التكنولوجيا. ويخشى الباحثون أيضًا من “اختلال التوافق” – بمعنى أن قيم النماذج وأهدافها لا تتطابق مع قيم وأهداف البشر.

يقع في قلب الحدث مارك تشين، كبير مسؤولي الأبحاث في OpenAI ، الذي يقود عملية تطوير النموذج. جلس تشين معه طبيعة لمناقشة كيفية تأثير الذكاء الاصطناعي على العلوم، إلى جانب محور الشركة نحو السلامة.

أين تأمل في تطبيق الذكاء الاصطناعي على العلوم؟

أريد تبديد فكرة أننا نصنع نماذج خاصة بالرياضيات.

على سبيل المثال، في عملية اكتشاف الأدوية، نأمل أن تتمكن النماذج من تقليص حجم الإنتاج. إن مراجعة الأدبيات والمشاريع البحثية القائمة بذاتها تتطلب الكثير من العمل اليدوي؛ قد يستغرق البحث عن الأهداف المحتملة أسابيع أو أشهر. نحن نستكشف ما إذا كانت نماذجنا يمكنها تسريع هذه العملية.

هناك أيضًا أنواع أخرى من المجالات التي كنا ندفعها – على سبيل المثال، في تصميم أشباه الموصلات وتطويرها. لقد قمنا بتطوير شريحة جالابينو الخاصة بنا.

في جميع المجالات، بما في ذلك الرياضيات، نريد أن نجمع المجتمع معنا بينما نقوم بتطوير الذكاء الاصطناعي الحدودي. هذه التقنيات لديها القدرة على تغيير الصناعات. نريد أن نعرف، جنبًا إلى جنب مع هذه المجالات، كيف يجب أن تسير المشاركة. يريد OpenAI نشر النتائج لإظهار مكان التكنولوجيا وما هي قادرة عليه. لكن ليست رغبتنا على الإطلاق في تغطية الملعب. نريد أن نشارك في تطوير القواعد.

كيف تتأكد من أن نماذجك آمنة؟

نحن نتبع نهجا متعدد الجوانب. لكن في الأساس، الحل الأقوى والأكثر صمودًا للمستقبل هو المراقبة. يمكن للنماذج أن تعرض ما يسمى سلسلة من الفكر، “تفكيرهم” غير المرشح أثناء سعيهم للتوصل إلى حل. تعد مراقبة النماذج (العمليات الداخلية) للنماذج الأخرى اليوم هي الطريقة الأكثر فعالية لتأمينها ومواءمتها. أحد التحديات هو أنه عندما تصبح النماذج أكثر قوة، فإن مقدار الحوسبة التي تقوم بها قبل الكشف عن “تفكيرها” يكون أكبر. وهذا يطرح سؤالاً: هل يمكنك النظر بشكل أعمق في النموذج، أو في مكان آخر في النموذج، لفهم آثار التفكير؟

كيف تقترب من تحسين الذكاء الاصطناعي ذاتيًا؟

نريد استخدام نماذجنا لتسريع تطوير النماذج للأجيال القادمة.

كان هدفنا الأول هنا هو إنتاج “باحث متدرب”: (an لدي وكيل that) يأتي مع سياق قليل جدًا، حيث يمكنك منح نطاق عمل محدد جيدًا والثقة في أشياء مثل إجراء تجارب أساسية أو تصحيح أخطاء عمليات تشغيل معينة. كأول إنجاز لنا، أردنا عدة مئات الآلاف من الرقائق، تتم إدارتها مباشرة بواسطة Codex (وكيل كتابة التعليمات البرمجية) لإجراء تجارب بحثية داخلية، وهذه هي الحالة التي نحن فيها بالفعل.

الهدف الأكثر طموحًا، والذي سيأتي في عام 2028، هو إجراء المزيد من الأبحاث الشاملة. إحدى الاختناقات الكبيرة هنا هي تعليم النموذج إحساسًا أفضل بـ “الذوق البحثي”، مثل الأفكار التي تستحق الاستكشاف.