ولحسن الحظ، وصلت هذه النصيحة إلى مجلد البريد العشوائي الخاص بالقسم.
QSPU_ALLOW_0_2db99b63dfdf2cf0392e4b1aaaa27e57 media=”(min-width: 429px)” srcset=”https://www.engadget.com/img/gallery/an-anthropic-model-submitted-a-false-homicide-tip-to-philadelphia-police/intro-1791575932.webp” type=”image/webp”>
QSPU_ALLOW_1_369f5aa538af5ce43a5a0317b68aac15 media=”(max-width: 428px)” srcset=”https://www.engadget.com/img/gallery/an-anthropic-model-submitted-a-false-homicide-tip-to-philadelphia-police/intro-1791575932.sm.webp” type=”image/webp”>
آن كابوستينا / شاترستوك
يبدو أن شرطة فيلادلفيا قد تم القبض عليها في واحدة من أكثر الحالات غرابة لسلوك الذكاء الاصطناعي “المارق” حتى الآن. لكل أخبار سي بي اسكشفت إدارة الشرطة يوم الجمعة أن نموذجًا إنسانيًا قام بتقديم معلومات كاذبة عن جريمة قتل إلى قسمها موقع PhillyUnsolvedMurders، والتي أنشأها القسم لجمع النصائح من الجمهور المتعلقة بقضايا القتل التي لم يتم حلها.
أبلغت شركة Anthropic شرطة فيلادلفيا بالحادثة في 7 أكتوبر. ووفقًا للمعلومات التي شاركتها الشركة مع PPD ، قالت إن عارضة أزياء كانت تجري اختبارًا لمجموعة عشوائية من مواقع الويب عندما أرسلت رسالة كاذبة عبر البريد الإلكتروني. تم وضع علامة على الإرسال على أنه بريد عشوائي ولم يتم التحقيق فيه بعد ذلك. وقع الحادث في 18 يوليو، ولكن لم يتم اكتشافه بواسطة Anthropic حتى 28 سبتمبر، وعندها أوقفت الشركة الاختبار الذي أدى إلى المعلومة الكاذبة.
لم تستجب Anthropic على الفور لطلب تعليق Engadget. وقالت أنثروبيك لشرطة فيلادلفيا إنها ستنشر تقريرا يوم الجمعة يصف ما حدث، إلى جانب “أمثلة أخرى لسلوك نموذجي غير مقصود”.
وقالت إدارة الشرطة في بيان تمت مشاركته مع Engadget: “تقدم شرطة فيلادلفيا هذه المعلومات للجمهور قبل هذا النشر لصالح الشفافية والمساءلة الحكومية الكاملة”. “تتطلب عملية التحقيق المنتظمة التي تجريها الإدارة بشأن المعلومات المتعلقة بالجريمة مراجعة بشرية وفحصًا قبل نشر أي معلومات لمتابعة التحقيق. وبغض النظر عمن يقدم المعلومات أو كيفية وصولها إلى القسم، فإن المعلومات هي بمثابة دليل للتقييم – وليست حقيقة ثابتة.”
واستنادًا إلى الأوصاف التي شاركتها الشرطة، ربما كان “النموذج” المخالف عميلاً مستقلاً. لقد ظهر عملاء الذكاء الاصطناعي “المارقون” في الأخبار في الأسابيع الأخيرة بعد مجموعة من عملاء OpenAI اخترق قاعدة بيانات LLM Hugging Face في يوليو. ومنذ ذلك الحين، تم إنشاء العديد من مختبرات الذكاء الاصطناعي الأخرى، بما في ذلك أنثروبي, ميتا و رحلة القمر الصينية، كشفوا عن حوادث مماثلة تتعلق بنماذجهم وعملائهم. ومع ذلك، في كل حالة، كان سبب هروب النماذج من الاحتواء يرجع إلى خطأ في التكوين في بيئات الاختبار المعزولة الخاصة بها. تقول شرطة فيلادلفيا إنه لا يوجد ما يشير إلى أن هذا الحادث الأخير أدى إلى “الوصول غير المصرح به إلى أنظمة الشرطة أو تعريض بيانات الإدارة للخطر”.
