عندما يعمل الأطباء والذكاء الاصطناعي معًا، من المسؤول؟ كيفية تحديد المسؤولية الطبية

الذكاء الاصطناعي يتطور بسرعة مدمجة في المستشفيات وعيادات الرعاية الصحية. ومع ذلك، مع فوائد أدوات الذكاء الاصطناعي تأتي مخاطر جديدة على سلامة المرضى – وأسئلة حول من المسؤول عندما تسوء الأمور.

تقليديا، يتم تحديد المسؤوليات في مجال الرعاية الصحية بوضوح. يجب على الأطباء توفير معيار محدد للعلاج. يجب على المؤسسات تنظيم عمليات العلاج الآمنة. يجب على الشركات المصنعة تقديم أجهزة طبية غير معيبة. يمكن للهيئات التنظيمية والهيئات المعنية بالترخيص وأوراق الاعتماد أن تتدخل إذا كان أي من هذه الأطراف لا يفي بالمعايير المتوقعة. ويمكن للمحاكم تحديد الطرف المسؤول إذا تعرض المرضى للأذى.

تم إعداد موجة واردة من أدوات الذكاء الاصطناعي الطبية لطمس هذه الخطوط.

يتم استخدام أدوات الذكاء الاصطناعي الحالية بشكل رئيسي كمساعدين، مدعومة بفحوصات بشرية، كما هو الحال مع الأجهزة الطبية الأخرى. على سبيل المثال، عندما تطلق نماذج الذكاء الاصطناعي تنبيهًا بأن المريض معرض لخطر الإصابة بالإنتان، يجب على الطبيب مراجعة وتأكيد الأساس المنطقي الفسيولوجي قبل أي علاج.

يستطيع الذكاء الاصطناعي الطبي إحداث تحول في الطب، ولكن فقط إذا قمنا بتتبع البيانات التي يمسها بعناية

ولكن في السنوات القليلة المقبلة، من المتوقع أن تتطور الأدوات السريرية المعتمدة على الذكاء الاصطناعي من تجميع البيانات إلى العمل عليها، مع تدخل بشري أقل فأقل. سوف يقومون بالتشخيص، ووضع خطط العلاج، واتخاذ القرارات المتعلقة بإدارة المرضى، والتي لا يلعب فيها الأطباء سوى دور ضئيل أو لا يلعبون أي دور على الإطلاق. في حين أن مخرجات العديد من الأدوات الحالية مفهومة – تعمل نماذج الإنتان، على سبيل المثال، من خلال الجمع بين المتغيرات الفسيولوجية المحددة وفقًا لصيغة شفافة.¹ – يمكن أن تتضمن الأدوات الأكثر تقدمًا عمليات التعلم العميق للصندوق الأسود. لن يتمكن الأطباء بعد الآن من متابعة منطق الأدوات بشكل كامل، حتى بالنسبة للخوارزميات التي تقدم بعض التفسيرات لأحكامهم².

وتقع مثل هذه الأدوات بين قواعد المساءلة. إن منطق الصندوق الأسود الخاص بهم يجعل من الصعب تحديد متى تكون معيبة. وعندما يتم اتخاذ القرارات بشكل مشترك من قبل البشر ونموذج مبهم للذكاء الاصطناعي، يصبح من الصعب تقييم المسؤولية عندما يتعرض الناس للأذى أثناء تلقي الرعاية الصحية. ولا تعالج أطر المسؤولية الطبية الحالية نقطة التقاطع هذه³.

ويعني عدم اليقين القانوني هذا أن الأشخاص المتضررين يمكن أن يقعوا في فجوات المسؤولية التي لم يخرق فيها أحد القاعدة بشكل واضح³. من المرجح أن تتجنب المستشفيات استخدام الذكاء الاصطناعي في الوظائف التي قد تكون مفيدة بسبب المخاوف المتعلقة بالمخاطر القانونية، وهي المخاوف التي يذكرها الأطباء بشكل متكرر كعائق أمام التبني الآمن للذكاء الاصطناعي.^4–6 ويعتبر ذلك من قبل البعض سببًا لعدم استخدام أدوات الصندوق الأسود المتاحة بالفعل. وقد يتهرب بائعو الذكاء الاصطناعي من التزامهم بمراقبة السلامة بمجرد وصول الأداة إلى السوق، واثقين من أنه سيكون من الصعب إلقاء اللوم عندما تسوء الأمور.

هناك حاجة إلى أطر واضحة للمسؤولية.

نوضح هنا كيفية تحقيق ذلك، من خلال تحديد سبعة مستويات لقدرات الذكاء الاصطناعي على أساس ثلاثة عوامل: الاستقلالية والأتمتة والنطاق التشغيلي. مع الطائرات والسيارات ذاتية القيادة، يستخدم المنظمون بالفعل مستويات متدرجة لتحديد المهام التي يجب أن تؤديها الأنظمة بالضبط، ومدى استقلاليتها، ومتى يُتوقع من البشر تولي المسؤولية^7–9. ومن شأن مجموعة مماثلة من المستويات لأنظمة الذكاء الاصطناعي الطبي أن تساعد الهيئات التنظيمية وصناع السياسات والحكومات والمحاكم وهيئات الرعاية الصحية المهنية على التخطيط للأدوات القادمة.

ثلاث خصائص، سبعة مستويات

هناك ثلاث خصائص تحدد كيفية استخدام الذكاء الاصطناعي في العيادة.

أولاً، الاستقلالية: مدى استقلالية النظام في التفكير، دون الحاجة إلى مدخلات بشرية. نماذج مخاطر الإنتان الحالية هي أدوات ذكاء اصطناعي منخفضة الاستقلالية¹. وعلى النقيض من ذلك، قد تصل أنظمة التعلم العميق إلى التشخيص من خلال أنماط عبر آلاف المتغيرات، مما يؤدي إلى استنتاجات لا يستطيع الأطباء تتبعها.¹⁰.

ثانيًا، الأتمتة: ما هي المهام التي يمكن لنظام الذكاء الاصطناعي الطبي تنفيذها بمفرده. قد يتراوح مثل هذا النظام من روبوت آلي منخفض يتحكم فيه الجراح، إلى نظام يرسل وصفات العلاج الكيميائي مباشرة إلى الصيدلية.

ثالثاً: النطاق التشغيلي: الحدود التي يُسمح للنظام بالعمل فيها. يعد نظام تصوير الشبكية الذي تنشره خدمة طب العيون المتخصصة للتحقق مرة أخرى من القرارات السريرية أقل خطورة من نفس الأداة المستخدمة في عيادة الرعاية الأولية لاتخاذ قرار مستقل حول ما إذا كان يجب إحالة المريض إلى أخصائي.

يمكن أن تشكل المستويات السبعة التالية أساسًا لتحديد المخاطر المتعلقة بأدوات الذكاء الاصطناعي الطبية. قد توجد أداة معينة على مستويات مختلفة اعتمادًا على مكان وكيفية استخدامها ومن يقوم بها.

المستوى 0: إعلامي. نظام ذكاء اصطناعي بدون استقلالية وأتمتة متغيرة ونطاق تشغيلي ضيق. تقوم هذه الأنظمة بتخزين البيانات ونقلها وعرضها وفقًا للقواعد التي يضعها البشر. تشمل الأمثلة خوارزميات لإدارة السجلات الصحية الإلكترونية أو تدفق البيانات من الأجهزة القابلة للارتداء والتي تتتبع العلامات الحيوية. يتسم السلوك الخوارزمي بالشفافية ويمكن التحقق من أي مخرجات بشكل مستقل.

هذه أرض مدروسة جيدًا. ويمكن للجهات التنظيمية تقييم ما إذا كانت هذه الأدوات موثوقة وتوفر ما يكفي من الأمن السيبراني وحماية البيانات. يمكن للمحاكم تطبيق المعايير التقليدية لتقييم المسؤولية.

المستوى 1: مساعد. أنظمة الذكاء الاصطناعي ذات استقلالية منخفضة وأتمتة منخفضة إلى متوسطة ونطاق تشغيلي ضيق. يمكن لمثل هذه الأنظمة أن تؤدي مهمة واحدة محددة بوضوح، يشرف عليها الطبيب – مثل الإبلاغ عن الإيقاعات المشبوهة على جهاز مراقبة القلب¹¹ أو تسليط الضوء على عقيدات الرئة المحتملة في الفحص¹². قد يكون المنطق الخوارزمي للأدوات غامضًا، ولكن يمكن التحقق من المخرجات من خلال المراجعة السريرية لبيانات المريض، أو من خلال “تقنيات التفسير” التي تتحقق من الارتباطات بين بيانات مدخلات ومخرجات النموذج.

ويتم تنظيم هذه الأدوات باعتبارها وسائل مساعدة تشخيصية، على غرار أنظمة الكشف الحالية بمساعدة الكمبيوتر لتصوير الثدي بالأشعة السينية وتنظير القولون. تتحمل المستشفيات مسؤولية ضمان فهم الموظفين لحدودها. يُتوقع من المستخدمين أن يحكموا بدقة على ما إذا كانت التنبيهات ذات معنى أم لا.

تدريب الذكاء الاصطناعي السريري على التفكير مثل فريق من الأطباء

المستوى الثاني: دعم القرار. أدوات الذكاء الاصطناعي ذات استقلالية منخفضة وأتمتة منخفضة إلى متوسطة ونطاق تشغيلي معتدل. تجمع هذه الأنظمة بين تدفقات متعددة من البيانات، ربما تتضمن الأعراض، والتاريخ الطبي السابق، وبيانات التصوير، والإرشادات الحالية. يمكن للأدوات الموجودة على هذا المستوى إنتاج خطة تشخيص وعلاج، وصياغة ملخصات تفصيلية للخروج من المستشفى، وإنشاء درجات المخاطر لقرارات الفرز. كما هو الحال مع أدوات المستوى الأول، فقد تم تصميمها لتكون استشارية – قد يكون منطقها مبهمًا ولكن يمكن التحقق منه إلى حد ما، ومن المتوقع من الأطباء اتخاذ القرار النهائي.

ويجب على المنظمين أن يطلبوا أدلة قوية على أن هذه الأنظمة تعمل على تحسين الرعاية. ويتعين على المستشفيات أن تدرب الأطباء على تحدي النتائج بدلاً من قبولها بشكل افتراضي، ويجب على المحاكم أن تقرر ما إذا كان اعتماد الطبيب على توصية معينة معقولاً في هذه الظروف. هناك خطر من أن الأطباء، تحت ضغط الوقت، سوف يفرطون في الاعتماد على الأدوات الاستشارية. لن تكون هناك طريقة سهلة لتحديد مدى تأثر الطبيب بتوصية الآلة.

المستوى 3: الأتمتة الخاضعة للإشراف. أنظمة الذكاء الاصطناعي ذات مستويات معتدلة من الاستقلالية والأتمتة، ونطاق تشغيلي معتدل. النظام، وليس الطبيب، هو صانع القرار. هذه الأدوات نادرة حاليًا (انظر “تصنيف الذكاء الاصطناعي الطبي الحالي”). في مجال محدد بإحكام، يمكنها الاستجابة ديناميكيًا لاحتياجات العلاج – على سبيل المثال، تقوم أجهزة توصيل الأنسولين بضبط الجرعات تلقائيًا وفقًا لقراءات الجلوكوز المستمرة، باستخدام الخوارزميات المدمجة والحدود المحددة مسبقًا¹³. يختار الطبيب المرضى الذين سيتم وضعهم على النظام ولا يتدخل إلا عندما يبدو أن هناك خطأ ما.

وينبغي للجهات التنظيمية أن تركز على جودة التعليمات الخاصة باستخدام هذه الأنظمة وصيانتها وعلى المعلومات المتعلقة بالمخاطر الكامنة في تقديم الرعاية. وينبغي لمنظمات الرعاية الصحية أن تقدم إرشادات بشأن بروتوكولات الموافقة المستنيرة التي تستجيب للأنواع الجديدة من المخاطر الكامنة في العلاج القائم على الذكاء الاصطناعي، وينبغي لمقدمي الخدمات مناقشة هذه المخاطر مع المرضى.

باستخدام هذه الأنظمة، يمكن انتقاد الأطباء لتسجيلهم مريضًا غير مناسب، أو فشلهم في الاستجابة لإنذارات الجهاز أو عدم فهم قيود النظام. يمكن الحكم على المنظمات بناءً على كيفية اختيارها للتكنولوجيا والتحقق من صحتها ومراقبتها. قد تتحمل الشركات المصنعة المسؤولية إذا ساهمت التصميمات أو التحديثات المعيبة في إحداث الضرر. لكن تقييمات المسؤولية التقليدية قد تكون غير صالحة للغرض، إذا تصرف الأطباء والمنظمات بشكل معقول، ويكون الضرر ناجما عن قرار محدد خوارزميا وليس خاطئا بشكل واضح.

المستوى 4: الرقابة البشرية الناجمة عن الذكاء الاصطناعي. أدوات الذكاء الاصطناعي ذات مستويات متوسطة إلى عالية من الاستقلالية والأتمتة، ونطاق تشغيلي واسع. تدير هذه الأنظمة حلقات كاملة من العلاج في مجالات مثل العناية المركزة. إنهم يراقبون المرضى باستمرار ويضبطون العلاجات — على سبيل المثال، موازنة إعدادات التنفس الصناعي والتخدير مقابل عدة أهداف فسيولوجية في وقت واحد. فهي تقوم بتشغيل بروتوكولات احتياطية مثل استدعاء فريق الاستجابة السريعة عندما يبدو أن هناك خطأ ما. الأطباء هم شبكة أمان ولا يتصرفون إلا عندما يطلق النظام ناقوس الخطر. لم يتم بعد نشر المستوى الرابع في مجال الطب، على الرغم من ظهور المكونات التقنية اللازمة.

بالنسبة لهذه الأنظمة، يجب على المنظمين أن يطلبوا أدلة قوية على أن إشراك الإنسان في الحلقة من شأنه أن يقلل من السلامة. ونظرًا لأن الأطباء لن تتاح لهم فرصة واقعية لمراجعة تصرفات هذه الأنظمة، فقد تواجه المحاكم صعوبة في تحديد ما إذا كانت النتيجة السلبية تعكس الإهمال، أو عيبًا خفيًا، أو ببساطة المخاطر الكامنة في الطب.

يمكن للذكاء الاصطناعي التوليدي أن يُحدث ثورة في الرعاية الصحية، ولكن ليس إذا تم التنازل عن السيطرة لشركات التكنولوجيا الكبرى