تكافح السلطات لمنع أدوات الذكاء الاصطناعي من إنتاج صور عارية دون موافقة

جيف بينيت:

لقد كان هناك ارتفاع حاد في ما يسمى بتكنولوجيا التعري. يمكن لهذه الأدوات التي تعمل بالذكاء الاصطناعي إنشاء صور ومقاطع فيديو مزيفة واقعية تصور الأشخاص على أنهم عاريين، غالبًا دون علمهم أو موافقتهم.

يتحدث ويليام برانجهام عن القلق المتزايد بشأن هذه التكنولوجيا والجهود المبذولة لكبح جماحها.

ويليام برانجهام:

ومع تزايد أنواع واستخدامات هذه التكنولوجيا، حاول المشرعون على مستوى الولاية والمستوى الفيدرالي صياغة قوانين للحد منها، لكن ثبت أن ذلك صعب للغاية.

لذا، لمساعدتنا على فهم هذا المشهد الحالي، انضمت إلينا كولينا كولتاي. وهي صحفية استقصائية في موقع الأخبار Bellingcat، وقد قامت بتغطية هذه القضية عن كثب.

كولينا، شكرا جزيلا لوجودك هنا.

هل يمكنك مساعدتنا في فهم ماهية هذه التقنيات في البداية، وماذا تفعل، وكيف تفعل ذلك؟

كولينا كولتاي، بيلينجكات:

نعم. شكرا لاستضافتي هنا.

إنه موضوع معقد بعض الشيء، ولكن هناك في الأساس مجموعة من الخدمات والتطبيقات والمنتجات المتوفرة من مواقع الويب إلى تطبيق يمكنك تنزيله على هاتفك والذي يسمح لك بالتقاط صورة لوجه شخص ما وإنشاء صورة إباحية وفيديو إباحي الآن لذلك الشخص.

لذلك، قد يكون هذا، على سبيل المثال، شيئًا بسيطًا، حيث يأتي مصطلح nudify، وهو مجرد إزالة الملابس رقميًا من الصورة. لذا فهي تلتقط صورة حقيقية، وتزيل الملابس، وبالتالي يتم إنشاء الجسم بالكامل بواسطة الذكاء الاصطناعي، ولكن قد يكون لديك أيضًا تقنية في الوقت الحاضر تسمح لك بتحميل وجه شخص ما من، مثل، تخيل من Facebook أو من Instagram، وتخلق صورة جديدة تمامًا.

وبالتالي فإن الصورة بأكملها تم إنشاؤها بواسطة الذكاء الاصطناعي بناءً على ذلك الشخص. لذلك فهو يصنع صورة أو مقطع فيديو مقنعًا إلى حد ما ذو طبيعة جنسية بناءً على ذلك. وهناك أيضًا تطبيقات يمكنك من خلالها تبديل الوجه. لذلك قد يكون لديك مقطع فيديو، وفي بعض الحالات، مقطع فيديو إباحي، ويقومون بتحميل وجه شخص ما ويقوم فقط بتبديل وجه ذلك الشخص بجسد ممثلة أخرى.

لذا، في حين أن الوجه نفسه والفيديو نفسه قد يكونان حقيقيين، إلا أنهما من مصدرين مختلفين. وكل هذه الأمور تندرج تحت نطاق ما يمكن أن نسميه، مثل تعري الذكاء الاصطناعي، والتزييف العميق للذكاء الاصطناعي، والصور الحميمية غير التوافقية المدعومة بالذكاء الاصطناعي.

ويليام برانجهام:

وما مدى انتشار هذه التقنيات؟ ومن يصنعها ومن يستخدمها؟

كولينا كولتاي:

نعم، من المؤسف أن هذه التكنولوجيا منتشرة على نطاق واسع بشكل لا يصدق. إنها مشكلة عالمية، ليس فقط هنا في الولايات المتحدة، لكنها بالتأكيد شيء مبتلي، على سبيل المثال، مثل المدارس الثانوية الأمريكية.

هناك حالة تلو الأخرى يتم فيها انتشار هذا النوع من التكنولوجيا واستخدامها من قبل الطلاب. أعتقد أن بعض الدراسات الاستقصائية الأخيرة التي تم إجراؤها هي أن — أعتقد أن حوالي 50% من الطلاب على دراية بالتكنولوجيا، وقد رأيت شخصًا يستخدم التكنولوجيا، شيء من هذا القبيل.

وأعتقد أنها تستمر في الارتفاع والارتفاع. وبقدر انتشار وتوافر هذا النوع من التطبيقات والتقنيات، يمكنك العثور على تقنية تفعل شيئًا مشابهًا متاحة على متجر Google ومتجر التطبيقات Play، والتي يمكن للأشخاص الوصول إليها باستخدام هواتفهم المحمولة.

ولكننا نفكر أيضًا بعد ذلك في منصات العلامات التجارية الحقيقية مثل Grok on X. لذا فإن Grok هي إحدى المنصات المتوفرة على نطاق واسع. على الرغم من أنه لا يتم وصفه على أنه تطبيق تعري أو مساعدة مزيفة، إلا أنه تطبيق تم استخدامه باستمرار لإنشاء صور حميمة غير موافقة لكل من البالغين والقاصرين.

ولكنك ستلاحظ أيضًا انتشار مواقع الويب. قد تذهب إلى موقع ويب معين. ليس عليك القيام بأي شيء خيالي أو استخدام منصة بحث Google أو منصة البحث التي تختارها لتتمكن من وضع شيء مثل مولد التزييف العميق، أو تطبيق التعري، أو شيء ما لإزالة الملابس، أو أشياء من هذا القبيل، وستجد – الوصول بسهولة إلى هذا.

وعلى وجه الخصوص، هذه خدمات رخيصة الاستخدام. أقول ذلك، بدولار وخمس دقائق، يمكنك، لسوء الحظ، إنشاء صور حميمة مقنعة حقًا لشخص ما دون رضاه.

ويليام برانجهام:

هل يمكنك التحدث قليلاً عن الجهود التي تم بذلها لمحاولة الحد من ذلك؟ أعلم أنه كان هناك إجراء فيدرالي، وإجراء على مستوى الولاية. ما نوع الأشياء التي قاموا بها وما مدى نجاحها؟

كولينا كولتاي:

نعم، لقد شهدنا بعض الإجراءات الفيدرالية الرائعة التي تم اتخاذها.

لذا، إذا كنت على دراية بشيء يسمى قانون “إزالته”، أعتقد أننا رأينا بالفعل ثلاثة أشخاص متهمين ومعتقلين بموجب هذا القانون. ولكن هذا شيء كان بمثابة تحول كبير، لأنه عادة ما رأيناه هو الكثير من القوانين على مستوى الولاية، لذلك يتعين على كل ولاية أن تضع قوانينها الخاصة، إما أن تكون تجاه الإباحية الانتقامية أو الصور الاصطناعية أو الصور غير التوافقية.

لكن القانون الفيدرالي — أو هذا القانون الفيدرالي، قانون خذها، يجعلها أكثر انتشارًا. لذا فإن الأمر يشمل كل شيء بدءًا من تجريم إنشاء الصور، وبالتالي سيكون لديك بالفعل قوانين التزييف العميق التي تنطبق الآن في جميع أنحاء البلاد. سيتم تطبيقه على المنصات.

لذا فإن لدى المنصات 48 ساعة لإزالة الصورة بمجرد إخطارها ومجموعة متنوعة من الأشياء الأخرى. لذا فأنت أيضًا — تعاقب الأشخاص الذين يستخدمونه أيضًا للتهديد. لذا، في بعض الأحيان، يهدد الناس بأنني سأخلق هذه الصورة لك، ويمكن حتى احتساب ذلك بموجب قانون “إزالتها”.

لذا فهو تغيير كبير في التشريع. وفي ولاية مينيسوتا، أقروا مؤخرًا مشروع قانون يمنع التكنولوجيا نفسها. لذا فإن الشيء الوحيد الذي سأتحدث إليه وأخبر الناس به في كثير من الأحيان هو أن إحدى الفجوات الكبيرة لدينا هي أن التكنولوجيا نفسها لا تبدو غير قانونية.

لذلك، في حين أن إنشاء الصور يعتبر الآن، مثل، عالميًا في جميع أنحاء الولايات المتحدة مخالفًا للقانون، فإن التكنولوجيا نفسها بدأت الآن – في أغسطس، سيدخل القانون حيز التنفيذ لحظر تكنولوجيا تطبيقات العري.

ويليام برانجهام:

صحيح، لأنني أعرف أن الكثير من تقاريرك كانت تبحث في الحوافز المالية هنا. ويبدو أنه إذا كان الناس قادرين على جني الأموال من صنع هذه المنتجات وبيعها، فهذا هو الأمر الأساسي الذي يجب حله هنا.

كولينا كولتاي:

نعم، كثيرًا ما أود أن أقول إنني لا أعتقد أن الأشخاص الذين يصنعون التكنولوجيا، ويصنعون مواقع الويب، والتطبيقات، والخدمات موجودون بالضرورة دائمًا من أجل حب اللعبة.

هناك — إنه موقف يشبه إلى حدٍ ما موقف Whac-A-Mole. في هذا النوع من التقارير التي نقوم بها، نحاول التعرف على الأشخاص الذين يقفون وراء مواقع الويب هذه، والذين يستفيدون من مواقع الويب الخاصة بالأشخاص الذين يدفعون مقابل هذه الخدمات لإغلاقها، لأنه لا يزال من المحرمات للغاية القول بأنني أملك أحد مواقع الويب هذه، أليس كذلك؟

لذلك نأمل أن تؤدي تقاريرنا إلى إغلاقها. لكن، في نهاية المطاف، في نهاية المطاف، إذا لم يعد الناس قادرين على جني الأموال من هذه المواقع، إذا لم يستثمروا، لسوء الحظ، صناعة تبلغ قيمتها ملايين الملايين من الدولارات وهي صناعة غير ضرورية للتزييف العميق، أعتقد أنهم سيذهبون إلى شيء آخر.

لقد رأينا هذا مرارًا وتكرارًا، خاصة مع الكثير من الأشخاص الذين يحاولون الوصول إلى المشهد. إنهم يدخلون في هذا المجال لأنهم يعتقدون أن بإمكانهم جني المال منه. لذلك، كلما كنا أكثر صعوبة في اتخاذ إجراءات صارمة أو المصطلح الذي أحب أن أقوله هو خلق الاحتكاك، أضفنا الاحتكاك إلى العملية، وكلما صعبنا على الناس أن يتمكنوا من الوصول إلى التكنولوجيا، والدفع مقابل تلك التكنولوجيا، ولكي يستفيد الناس من تلك التكنولوجيا، سنكون قادرين على الاستمرار في محاولة القضاء على هذه المشكلة في مهدها.

ويليام برانجهام:

هذه كولينا كولتاي من بيلينجكات.

شكرًا جزيلاً لك على مشاركة صحافتك المثيرة للقلق معنا.

كولينا كولتاي:

شكرا لاستضافتي.