يتزايد الجدل حول كيفية حماية الأطفال والمراهقين مع تزايد استخدام الذكاء الاصطناعي

جيف بينيت:

والآن ننتقل إلى سلسلتنا حول مستقبل الذكاء الاصطناعي، وهو أحد أكبر الاهتمامات، وهو كيفية استخدام الأطفال والمراهقين له يوميًا. تتخذ الشركات بعض الخطوات. أعلنت شركة Meta، على سبيل المثال، أن أدوات الذكاء الاصطناعي الخاصة بها ستقوم الآن بإخطار الآباء إذا كانت أنظمة الذكاء الاصطناعي الخاصة بها تعتقد أن المراهق قد يفكر في الانتحار أو إيذاء النفس.

لكن الكثيرين يقولون إن الشركات لا تفعل ما يكفي، ولا يمكن الوثوق بها، ويجادلون بأن هناك حاجة إلى مزيد من التنظيم. خرجت مؤسسة Omidyar Network الخيرية التكنولوجية بنهج جديد خاص بها.

ميشيل جواندو هو الرئيس التنفيذي. وتحدثت معها أمس.

ميشيل جواندو، مرحباً بك في “ساعة الأخبار”.

ميشيل جواندو، الرئيس التنفيذي لشبكة أوميديار:

شكرا جزيلا لاستضافتي.

جيف بينيت:

لقد ركز الكثير من النقاش حول الأطفال والذكاء الاصطناعي على ما إذا كان ينبغي للأطفال الوصول إليه بشكل كامل وفي أي عمر. أعلم أنك تقول أن هذا السؤال خاطئ.

لماذا؟

ميشيل جاواندو:

نعم، أعتقد – اسمع، أعتقد أن الوصول والتحقق من العمر جزء من المحادثة، ولكن لا ينبغي لنا إنهاء النقاش عند هذا الحد.

يقع عبء وضع نوع من القيود مرة أخرى على عاتق العائلات. يقع على عاتق الآباء الذين يحاولون فقط اكتشاف ذلك. ما نريد حقًا أن نطلبه من الشركات هو تصميم منتجات أكثر أمانًا. وفي نهاية المطاف، لديك أفضل المهندسين في العالم، الذين يعرفون كيفية القيام بذلك، مقابل الآباء، الذين يحاولون فقط اكتشاف ذلك.

ولذلك بالنسبة لنا في شبكة أوميديار، فإننا نركز حقًا على معايير التصميم والتصميم كوسيلة لنظام بيئي أكثر أمانًا وصحة.

جيف بينيت:

ما يقرب من تسعة من كل 10 أطفال ومراهقين يستخدمون الذكاء الاصطناعي بالفعل، وذلك وفقًا لدراسة استقصائية وطنية.

لذا، من وجهة نظرك، إذا لم يكن حظره واقعيًا حقًا، فما هي وسائل الحماية التي يجب أن تكون موجودة؟ كيف ينبغي أن تبدو تلك الدرابزين؟

ميشيل جاواندو:

لذلك هناك بعض الأشياء. لقد قلت ذلك ببلاغة. تسعة من كل 10 أطفال يستخدمون الذكاء الاصطناعي بالفعل

يشاركنا شركاؤنا في Common Sense Media في أن الشباب، حوالي ربع الشباب يستخدمون الذكاء الاصطناعي كل يوم لشيء ما. لذا فإن السؤال يجب أن يكون على الشركات والمنصات نفسها لكي تتطور بشكل أكثر أمانًا.

أولاً، كيف يمكنك تقييد ممارسات التلاعب والإدمان؟ هذا شيء يمكن أن نتفق عليه جميعًا، خاصة أشياء مثل الارتباط الرومانسي. الشيء الثاني الذي أود أن أشير إليه بعد ذلك هو تصميمات السلامة. فكيف لديك الفرامل المدمجة؟ كيف يمكنك التأكد من أننا لا نلتقط بيانات من الشباب الذين يستخدمون تطبيقات مختلفة؟

والعديد من التطبيقات التي يستخدمها الشباب، ثلاثة وأربعة في الواقع يأخذون بياناتهم ويشاركونها ويبيعونها. فكيف يمكنك توفير ميزات تصميم أكبر تحمي شبابنا؟

جيف بينيت:

أقر مجلس النواب مؤخرًا قانون الأطفال، قانون سلامة الأطفال. وهذا ينظم وسائل التواصل الاجتماعي وألعاب الفيديو وروبوتات الدردشة التي تعمل بالذكاء الاصطناعي. هل يعالج هذا التشريع بشكل هادف نطاق المخاطر كما تراها؟

ميشيل جاواندو:

قانون الأطفال – وأنا سعيد جدًا برؤية الكونجرس يبدأ في التحرك في هذا الاتجاه. قال ثمانون بالمائة من الأمريكيين إننا نريد رؤية المزيد في هذا المجال. ولكن، مرة أخرى، أعتقد أن هذه هي بداية المحادثة. لا أعتقد أنه في أي مكان بالقرب من النهاية.

وهناك بعض الأسباب الرئيسية. مرة أخرى، نحن نلقي المسؤولية مرة أخرى على الوالدين. إذا كان معظم العمل في قانون الأطفال يركز حقًا على إشعار الوالدين، مرة أخرى، أنا أحد الوالدين. أحاول معرفة ذلك. أنا والد لأربعة أطفال. ماذا أفعل هنا؟ كيف من المفترض أن أقود هذا الأمر، مقابل الشركات التي تعرف وتمتلك المعايير الفنية والخبرة؟ هذا هو أول شيء.

والشيء الآخر هو أنهم يفتقدون شيئًا يسمى واجب الرعاية في مشروع القانون الأخير الذي تم إقراره. وهذا مصطلح قانوني، ولكن ما يقوله في الأساس هو، كشركة، إذا كنت أقوم بتصميم منتج، يجب أن أصممه بأكبر قدر ممكن من الأمان. هذا كل ما نقوله. وهذا مفقود من مشروع القانون الحالي.

جيف بينيت:

لذا، تعرّف معنا على كيفية تصرف روبوت الدردشة، وهو روبوت محادثة يعمل بالذكاء الاصطناعي، عندما يعرف أنه يتحدث إلى طفل يبلغ من العمر 13 عامًا.

ميشيل جاواندو:

حسنًا، أولاً، أعتقد أننا في شبكة أوميديار نؤمن بأن هذه هي معايير التصميم التي يجب أن تنطبق على الجميع. لقد أطلقنا للتو شراكة مع AARP، ونحن نرى بعضًا من نفس معايير التصميم الشائنة التي تهاجم حقًا كبار السن الأمريكيين، الذين هم أيضًا في أزمة الوحدة.

لذا أعتقد أن معايير التصميم التي لا تركز على التلاعب بالسلوك، وخاصة الارتباط الرومانسي، أو معايير التصميم التي تقول هنا إشعار الفرامل، يجب أن تكون منطقية وأساسية نوعًا ما. نريد أيضًا الابتعاد عن أخذ بيانات الأشخاص كجزء من هذا الحل الوسط لاستخدام برامج الدردشة الآلية.

وأخيرًا، فإن إجراء محادثة حقيقية مع هذه الشركات، التي تعرف ما يمكنها فعله هنا وتعرف كيفية إنشاء بيئة أكثر أمانًا، هو أمر يمكنها وينبغي عليها القيام به، وليس فقط المستهلكين الأفراد الذين يحاولون فهم كل هذا.

جيف بينيت:

وجهة نظرك بشأن البيانات جيدة لأن هناك هذا القلق، كيف يمكنك بالفعل التحقق من عمر الطفل دون خلق مخاطر خصوصية جديدة؟

ميشيل جاواندو:

هذا صحيح.

لذا فإن أحد الأشياء التي نشهدها — هنا في الولايات المتحدة وفي بلدان حول العالم هو ظهور نوع من التحقق من العمر. ولكن، مرة أخرى، لا نملك حقًا، وخاصة هنا في الولايات المتحدة، نوعًا من حماية الخصوصية لجميع معلوماتنا.

وفي كثير من الأحيان ما يحدث هو أننا نطلب من الشركات، والشركات الخاصة، مشاركة هويتي الشخصية. ومع ذلك ليس لدينا أي تنظيم للخصوصية حول ذلك. لذلك نعتقد بالفعل أن هناك طرقًا أخرى لمعالجة هذه المشكلة.

أحد الأشياء التي رأيناها هو تقدير العمر. نحن أيضًا، بصراحة، نعتقد أنه إذا كانت لديك خصوصية مضمنة في تطبيقك منذ البداية، فهذه أشياء لا يجب أن تتمتع بها بالضرورة.

جيف بينيت:

كما تعلمون، نحن نرى المدارس تقيد الهواتف الذكية، وهو أمر يدعمه معظم الآباء. قد يتساءل بعض الآباء، لماذا يجب التعامل مع الذكاء الاصطناعي بشكل مختلف؟

ميشيل جاواندو:

نعم.

انظروا، أعتقد أن الجرس هو الجرس — ونحن نرى هذا في المدارس في جميع أنحاء البلاد، حيث لديهم حظر على الهواتف الذكية. وأعتقد أن هذا، مرة أخرى، جزء من المحادثة. لكن الوصول هو مجرد خطوة واحدة. إذا تراجعنا أنا وأنت كآباء وفكرنا حقًا في هذا الأمر، فيمكنني تقييد بعض السلوكيات، لكن مجرد استبعاد ذلك لا يعني أن هذا التطبيق لا يفعل شيئًا شائنًا عندما يستعيدونه بالفعل في الساعة 5:00.

لذا فإن سؤالي هو، هل نحن كمجتمع مستعدون للقول إننا نريد منتجًا أفضل تصميمًا، بشكل مباشر؟ لا يهم متى تحصل عليه، سواء كان ذلك قبل المدرسة أو بعدها، لكننا نريد منتجًا آمنًا لشبابنا. وأعتقد أننا نستطيع أن نفعل ذلك.

جيف بينيت:

وعندما يتعلق الأمر بالتعليم العالي، فقد رأينا هذا المثال المذهل في جامعة براون.

(ضحك)

جيف بينيت:

وأنت تضحك لأنك تعرف إلى أين سأذهب بهذا.

ميشيل جاواندو:

أنا أكون.

جيف بينيت:

لذا، ارتفعت النتائج في امتحان منتصف الفصل الدراسي عبر الإنترنت بشكل كبير، ثم انخفضت عندما كان الاختبار النهائي شخصيًا، ربما لأن الطلاب لديهم قدرة أقل على الوصول إلى الذكاء الاصطناعي

هل يحتاج التعليم نفسه إلى إعادة تصميم لمعالجة واقع الذكاء الاصطناعي؟

ميشيل جاواندو:

هناك سؤال أساسي أعتقد أنه يجب علينا طرحه في المجتمع الآن والاستعداد للإجابة عليه.

على مدى السنوات العشرين الماضية، ركزنا على كيفية تطوير اقتصاد المعرفة؟ ومن ثم قمنا بإنشاء واحد من أعظم الاختراعات لمساعدتنا حقًا في التفكير في ضخامة المعرفة والمعلومات، وهو في متناول أيدينا بسهولة كل يوم. هذا شيء عظيم.

ومع ذلك، فإن ما لم نأخذه في الاعتبار حقًا مع المجتمع هو ما يعنيه ذلك بالنسبة للعملية والأنظمة المتعلقة بكيفية تفكيرنا فيما يجب أن يفعله التعليم. في بعض النواحي، أنا أفهم هؤلاء الشباب. إنهم ينظرون إلى سوق العمل بشكل مستمر — يسمعون باستمرار أن الذكاء الاصطناعي سيحل محلهم، لذلك يجب أن يكونوا في قمة الفصل.

نحن نسمع أيضًا كل يوم أننا في سباق عالمي حول الذكاء الاصطناعي، لذلك لديك كل هذه الضغوط، ومن ثم نقول إن عليك أن تعرف كيفية استخدام الذكاء الاصطناعي، عليك أن تكون متعلمًا في مجال الذكاء الاصطناعي. ومن ثم لدينا نظام تعليمي لم يلحق بالركب حقًا ولم يقرر كيف و– كيف نستخدم التعليم في الفصل الدراسي، ولكن مع ذلك فإن كل شخص لديه ذلك كجزء من مناهجه الدراسية.

لذا فهذه أسئلة حقيقية حول كيف نتعلم، وماذا نتعلم. لا أعتقد أنه يمكننا أن نطلب من الطلاب فقط تقديم معلومات أو إجابات عن ظهر قلب. هناك طريقة جديدة للتعلم أعتقد أنها ستتطلب منا جميعًا التفكير في التفكير النقدي، وفي كيفية تصنيفنا، وفي كيفية حديثنا عن هذه الأسئلة.

جيف بينيت:

قطعاً.

ميشيل جواندو، الرئيس التنفيذي لشبكة أوميديار، يسعدني دائمًا التحدث معك.

ميشيل جاواندو:

أوه، شكرا جزيلا، جيف.