تم العثور على آلاف الروابط المزيفة من الذكاء الاصطناعي في المقالات العلمية

أخصائي علوم الحاسوب غيوم كاباناك تلقى إخطارا من جوجل الباحث العلمي حول الاستشهاد بعملك في مقال في طب الأسنان. بدا هذا غريبًا في حد ذاته، لكنه بدا أسوأ بعد ذلك: لم يتمكن من التعرف على الرابط نفسه أو المنشور.

يقول: “لقد فوجئت جدًا برؤية أنني لم أتمكن من التعرف على الرابط الخاص بي”.

إن DOI المحدد، أي المعرف الرقمي الفريد للعمل العلمي، لم يؤدي إلى النص الفعلي. ويشتبه كاباناك في أن هذا الارتباط قد تم إنشاؤه بواسطة الذكاء الاصطناعي، ولم يكن وحده.

وكان حجم المشكلة غير متوقع

الأبحاث المنشورة في طبيعةويظهر، استنادا إلى تحليل آلاف المنشورات العلمية، أن الوضع يتوسع بسرعة إلى ما هو أبعد من الحالات المعزولة.

يستخدم العلماء بشكل متزايد نماذج اللغة للبحث في الأدب، وكتابة النصوص، وتصميم الببليوغرافيات. لكن مثل هذه الأدوات يمكن أن تسبب “الهلوسة”، أي توليد بيانات معقولة ولكنها غير موجودة.

أظهر تحليل ما يقرب من 18 ألف مقال في مؤتمرات علوم الكمبيوتر زيادة حادة في الروابط الإشكالية. إذا كانت موجودة سابقًا في حوالي 0.3% من الأعمال، فهي موجودة الآن في 2.6%. وفي عينات أخرى تصل النسبة إلى 6%.

عشرات الآلاف من المنشورات موضع تساؤل

التحليل التحريري المشترك طبيعة والشركات الذكاء الاصطناعي المؤرض غطت أكثر من 4000 منشور علمي من كبار الناشرين.

أظهر الفحص اليدوي أن معظم الأوراق المشبوهة تحتوي في الواقع على إشارات إلى دراسات غير موجودة. إذا قمنا باستقراء النتائج، فيمكننا أن نتحدث عن أكثر من 100 ألف منشور بروابط غير صالحة في عام واحد فقط.

وفي الوقت نفسه، يعترف الباحثون أنفسهم بأن هذا تقدير تقريبي، وقد يكون المقياس الحقيقي أعلى.

كيف تبدو الروابط المزيفة

نادراً ما يختلق الذكاء الاصطناعي الأشياء بالكامل. في كثير من الأحيان يجمع بين العناصر الحقيقية – أسماء المؤلفين وأجزاء من العناوين والمجلات.

والنتيجة هي ما يعرف باسم “اقتباسات فرانكشتاين”. تبدو مقنعة ولكنها لا تؤدي إلى أي عمل حقيقييكون.

“بالنسبة لشخص ما، يبدو الأمر حقيقيا، لكنه في الواقع ليس إشارة إلى كائن حقيقي”، لاحظ مطورو أدوات التحقق.

هناك أخطاء حتى في المصادر “الحقيقية”.

حتى عندما يؤدي الرابط إلى مقالة حقيقية، فإنه غالبًا ما يحتوي على أخطاء — DOI غير صحيح، أو عنوان به خطأ إملائي، أو مؤلفون غير صحيحين.

وفي إحدى التجارب، كان ما يقرب من 20% من الروابط التي أنشأها الذكاء الاصطناعي وهمية تمامًا. و45% أخرى تحتوي على معلومات غير دقيقة.

ويؤكد الباحثون: “لم نعد نتحدث فقط عن عدم الدقة، بل عن الاقتباسات الملفقة”.

بدأت المجلات تتفاعل بقسوة

ويواجه محررو المجلات والمؤتمرات العلمية العواقب بالفعل.

أبلغ بعض المحررين عن رفض ما يصل إلى ربع المقالات المقدمة بسبب مشاكل الاقتباس. في بعض الحالات، يتم رفض الأعمال ذات الاستشهادات الكاذبة تلقائيًا دون الحق في إعادة تقديمها.

وفي الوقت نفسه، يجري تطوير أدوات التحقق التلقائي، لكنها لا تستطيع حتى الآن أن تحل محل الفحص اليدوي بشكل كامل.

لماذا هذا أكثر خطورة مما يبدو؟

المشكلة تتجاوز الشكليات. الروابط الوهمية:

• تتداخل مع التحقق من النتائج العلمية
• تضليل الباحثين الآخرين
• قد يشوه الاستنتاجات

وفي بعض الحالات، تصبح علامة على أعمال ملفقة بالكامل.

يقول الخبراء: “كل اقتباس مزيف يمثل مشكلة في الأدبيات العلمية”.

أين تقع حدود الخطأ؟

ولم يتوصل العلماء بعد إلى توافق في الآراء بشأن ما إذا كان ينبغي اعتبار مثل هذه الحالات انتهاكًا.

في بعض الأحيان يكون هذا نتيجة عدم الانتباه – فالمؤلفون يثقون في الذكاء الاصطناعي ولا يقومون بالتحقق مرة أخرى من الروابط. ولكن إذا تم استخدام هذه البيانات كأساس للاستنتاجات، فيمكننا التحدث بالفعل عن تزوير. يزيد الناشرون من مطالبهم للمؤلفين بالكشف عن استخدامهم للذكاء الاصطناعي. كما يتم إدخال أنظمة جديدة لفحص الارتباط.

ومع ذلك، تظل المشكلة الرئيسية قائمة، وهي أن السرعة التي تنتشر بها مثل هذه الأخطاء أعلى من السرعة التي يتم بها اكتشافها. وإذا استمر هذا الاتجاه، فإن الأدبيات العلمية تخاطر بمواجهة أزمة أكثر خطورة – فقدان القدرة على التحقق والمصداقية.