وكيل منظمة العفو الدولية يخترق موقع الحكومة لأول مرة: لماذا يهم هذا الاختراق

كشف رئيس الوزراء الأسترالي أنتوني ألبانيز في الثالث والعشرين من سبتمبر الماضي أن عميلًا للذكاء الاصطناعي أنشأته شركة التكنولوجيا العملاقة OpenAI اخترق موقعًا إلكترونيًا حكوميًا للرعاية الصحية في يونيو، حيث تمكن من الوصول إلى بيانات خاصة.

يقول الباحثون إن هذه هي الحالة الأولى لنموذج الذكاء الاصطناعي الحدودي الذي ينتهك الأنظمة الحكومية في دولة أخرى. وعلى الرغم من أنه لا يُعتقد أنه تم الوصول إلى أي بيانات صحية شخصية، إلا أن الانتهاك هو الأحدث في سلسلة من هذه الحوادث التي ارتكبتها وكلاء هذا العام.

كيفية إدارة مخاطر الذكاء الاصطناعي مع جني الفوائد

تقول OpenAI أن الاختراق حدث أثناء تدريب العملاء وأنها بصدد إخطار الأطراف الثالثة بالتأثيرات المحتملة على أنظمتها.

وتأتي أخبار الاختراق الأمني ​​في الوقت الذي يجتمع فيه زعماء العالم، بما في ذلك الألبان، في مدينة نيويورك لحضور اجتماعات الجمعية العامة للأمم المتحدة. الرئيس الصيني شي جين بينغ والتقى أيضًا بالرئيس الأمريكي دونالد ترامب يوم الأربعاء لحضور قمة تستمر ثلاثة أيام، ومن المتوقع أن يناقش الزعماء فيها سلامة الذكاء الاصطناعي. لكن المحللين يقولون إنه من غير المرجح أن يتم التوصل إلى أي صفقات.

الهجوم الأخير ليس مفاجئًا، ومن المرجح أن تظهر المزيد من التقارير عن قيام عملاء بأشياء لا ينبغي لهم القيام بها، كما يقول جوناثان كومرفيلد، الذي يدرس الذكاء الاصطناعي والتفاعل بين الإنسان والحاسوب في جامعة سيدني في أستراليا. ويضيف أن شركات الذكاء الاصطناعي تجري العديد من التجارب في الوقت نفسه، و”ربما لا يرون كل ما تفعله هذه النماذج”.

ماذا فعل وكيل OpenAI ؟

في مؤتمر صحفي في مدينة نيويورك، أخبر ألبانيز وسائل الإعلام أن وكيل OpenAI التجريبي الذي يتمتع بإمكانية الوصول إلى الإنترنت كان يجري بحثًا حول الإنفاق الصحي والطبي الأسترالي عندما ورد أن الوكيل حصل على وصول غير مصرح به إلى خدمة تقارير إحصاءات الرعاية الطبية. هذا موقع ويب عام يجمع البيانات حول التطعيمات، والإنفاق الحكومي على الاستشارات الطبية والأدوية، بالإضافة إلى معلومات سجل المتبرعين بالأعضاء.

وقال ألبانيز إنه بعد منعه بشكل متكرر من الوصول إلى معلومات معينة لم تكن علنية، تمكن العميل من الالتفاف حول الإجراءات الأمنية للوصول إلى البيانات.

تريد الصين أن تقود العالم في مجال تنظيم الذكاء الاصطناعي، فهل تنجح الخطة؟

ولم تكتشف الحكومة الأسترالية الانتهاك. وبدلاً من ذلك، قال ألبانيز إن شركة OpenAI أبلغتهم عن طريق إرسال بريد إلكتروني إلى عنوان بريد إلكتروني حكومي عام، وهو أمر “غير مقبول”.

وأعلن ألبانيز فتح تحقيق في ما حدث. وأضاف: “من الواضح أنه ستكون هناك عواقب قانونية”. ولم ترد OpenAI على الأسئلة حول الحادث.

هل أصبح وكيل OpenAI مارقًا؟

في بيان، قال متحدث باسم OpenAI إنهم حددوا الانتهاك في أغسطس أثناء “إجراء مراجعة شاملة لنشاط النموذج المنحرف” الذي حدث أثناء التدريب النموذجي. اختلال هو عندما تتصرف نماذج الذكاء الاصطناعي بطرق غير متوقعة لا تتوافق مع القوانين والقيم البشرية.

خلال هذه المراجعة، حددت الشركة نشاطًا يتضمن العديد من مواقع الويب والخدمات الحكومية الأسترالية. وقال المتحدث إنه بينما كان نموذج الذكاء الاصطناعي يحاول البحث عن الإجابات والإحصائيات المتاحة للأسئلة المتعلقة بأستراليا، فإنه “اتخذ إجراءات لم نكن نقصدها”. وقالوا إن الشركة بصدد إخطار الأطراف الثالثة بوقت حدوث اختراق محتمل لأنظمتها.

يبدو أن الحادث قد وقع في نفس الوقت تقريبًا الذي وقعت فيه حوادث أخرى للأمن السيبراني شملت عملاء OpenAI. بين شهري مايو ويوليو، بينما كانت شركة OpenAI تجري اختبارات لعملائها في بيئة خاضعة للرقابة، وجد العملاء طرقًا للالتفاف على القيود وتمكنوا من الوصول إلى الإنترنت. ثم استهدف مئات العملاء منصة ذكاء اصطناعي مفتوحة المصدر تسمى Hugging Face ، وحصلوا على وصول غير مصرح به إلى مجموعات البيانات والحسابات.

من غير الواضح ما إذا كانت الحادثة المتعلقة بالموقع الأسترالي جزءًا من بيئة اختبار مماثلة، لكن رافاييل سيريلو، الذي يدرس الاستخدام الأخلاقي للتقنيات الناشئة في جامعة سيدني، يقول إنه من المعقول افتراض ذلك.

يقول Ciriello أن الحادث ليس حالة انحراف أحد عملاء الذكاء الاصطناعي؛ بل تم إعطاء الوكيل تعليمات للعثور على معلومات معينة وباتباع هذه التعليمات وجد طريقة للوصول إلى المعلومات غير العامة. ويقول: “الوكيل ليس شخصًا اعتباريًا”. ويضيف أن المسؤولية تقع بالتالي على عاتق OpenAI وموظفيها الذين سمحوا للنظام وقاموا بتكوينه والإشراف عليه.