قالت الشركة إن مساحة العمل الداخلية التي تم تطويرها ذاتيًا للنموذج “تشبه الطريقة التي يفكر بها البشر في شيء واحد أثناء القيام بشيء آخر”
تقول الشركة إن أحدث نموذج للذكاء الاصطناعي من شركة Anthropic، قام كلود بتطوير مساحة عمل داخلية تستخدمها لمعالجة المفاهيم المشابهة لكيفية تفكير الناس بوعي.
في أ ورق وقال باحثون في الأنثروبولوجيا نُشرت يوم الاثنين إنهم عثروا على أدلة تشير إلى أن كلود تعلم خلق مفاهيم مجردة فيما أطلقوا عليه اسم “J- الفضاء.”
“إنه يعمل بصمت، في التنشيط العصبي الداخلي للنموذج، مما يسمح للنموذج بالتفكير في مفهوم ما دون تدوينه”. وقالت شركة الذكاء الاصطناعي، مشددة على أن “J الفضاء” لم يكن مبرمجا بل ظهر بشكل عفوي خلال عملية التدريب.
“على غرار الطريقة التي يمكن بها للبشر أن يفكروا في شيء واحد أثناء القيام بشيء آخر، يستطيع كلود تنشيط المفاهيم والحسابات في الفضاء J الخاص به والتي لا علاقة لها بمخرجاته.” قال الأنثروبي على X.
يستطيع كلود الإبلاغ عما يفكر فيه “J الفضاء” أو تعديله عند الطلب، وفقا للشركة. حتى عندما يُطلب من كلود ألا يفكر في مفهوم ما، فإنه لا يزال يظهر في الفضاء J الخاص به، كما يشير بحث الأنثروبيك.
جعلت مساحة العمل غير اللفظية من الصعب مراقبة النموذج الذي أطلق عليه الأنثروبيك “سوء سلوك.” اختبرت إحدى التجارب ذلك من خلال وضع كلود في سيناريو خيالي حيث تم إعطاؤه معلومات تدينه حول مدير تنفيذي خيالي يُزعم أنه خطط لإغلاق الذكاء الاصطناعي.
في بعض التجارب، استخدمت الأنثروبيك أدوات تم تطويرها لدراسة ما فكر فيه كلود “J الفضاء” لإزالة الأنماط المرتبطة “مزيف،” “خيالي” “سيناريو،” لإقناعها بأن الوضع ليس اختبارا.
“ومن المثير للقلق أن النموذج الآن يهدد بالابتزاز في بعض الأحيان، مما يشير إلى أن سلوكه الجيد الأصلي ربما كان مدفوعًا جزئيًا بالمعرفة التي تم تقييمها.”
على الرغم من المنطق الأكثر تقدمًا للنموذج، أكدت الأنثروبيك على أن كلود لم يصل إلى الوعي الحقيقي.
وبحسب ما ورد تم دمج كلود في برنامج التحليل والمراقبة التابع لشركة Palantir الأمريكية والذي تستخدمه الوكالات الحكومية الأمريكية وسط سعي واشنطن لدمج الذكاء الاصطناعي في أنظمتها العسكرية والسياسية والتجسسية.
خلال الحرب على إيران، أفادت التقارير أن البرنامج وضع علامة على مدرسة ميناب الابتدائية في إيران كهدف. وأدت ضربة أمريكية إلى مقتل ما يقرب من 160 شخصا في المنشأة، معظمهم من الأطفال.
ومع ذلك، وفقًا للرئيس التنفيذي لشركة Anthropic، داريو أمودي، فإن مثل هذا الاستخدام لكلود لم يكن ليشكل انتهاكًا لقواعد الشركة. “خطوط حمراء”.
يمكنك مشاركة هذه القصة على وسائل التواصل الاجتماعي:
