أخلاقيات الذكاء الاصطناعي في الرعاية الصحية
أعجبك هذا الفيديو؟ تابع دروس الذكاء الاصطناعي المجانية الجديدة على YouTube.
اشتركما الذي ستتعلمه
في هذا الدرس ستتعرّف على التحديات الأخلاقية التي يُدخلها الذكاء الاصطناعي (AI) إلى الرعاية الصحية. ستستكشف التحيّز الخوارزمي (algorithmic bias) والعدالة الصحية، والموافقة المستنيرة (informed consent) في عصر الذكاء الاصطناعي، ومسألة المسؤولية عندما يسهم الذكاء الاصطناعي في القرارات السريرية، ومتطلبات الشفافية وقابلية التفسير، والأطر الأخلاقية التي ينبغي أن توجّه اعتماد الذكاء الاصطناعي في ممارستك.
لماذا تكتسب الأخلاقيات أهمية أكبر في الذكاء الاصطناعي الصحي
أخلاقيات الذكاء الاصطناعي ليست تمرينًا أكاديميًا مجرّدًا. ففي الرعاية الصحية، يمكن للذكاء الاصطناعي المتحيّز أو سيّئ التطبيق أن يؤذي المرضى مباشرة. فنظام ذكاء اصطناعي للأمراض الجلدية مدرّب أساسًا على البشرة الفاتحة قد يغفل الورم الميلانيني لدى مرضى ذوي بشرة داكنة. ونموذج تنبؤي يستخدم بيانات مطالبات التأمين كبديل عن الاحتياجات الصحية قد يقلّل بشكل منهجي من تقدير احتياجات المرضى من المجتمعات المحرومة. وكاتب آلي محيطي ينسب قول المريض إلى غيره قد يغيّر السجل الطبي بشكل مهم سريريًا.
لمهنة الرعاية الصحية تاريخ طويل من الأطر الأخلاقية: قَسَم أبقراط، وتقرير Belmont، والمبادئ الأربعة لأخلاقيات الطب الحيوي (الاستقلالية، والإحسان، وعدم الإضرار، والعدالة). الذكاء الاصطناعي لا يغيّر هذه المبادئ، لكنه يُدخل طرقًا جديدة لانتهاكها وأسئلة جديدة حول كيفية الالتزام بها.
التحيّز الخوارزمي والعدالة الصحية
كيف يدخل التحيّز إلى أنظمة الذكاء الاصطناعي
تتعلم أنظمة الذكاء الاصطناعي من البيانات، والبيانات تعكس العالم كما هو، بما فيه من أوجه عدم المساواة. ويمكن أن يدخل التحيّز في مراحل متعددة:
- تحيّز بيانات التدريب: إذا دُرّب نموذج ذكاء اصطناعي أساسًا على بيانات من فئة سكانية واحدة، فقد يكون أداؤه ضعيفًا مع غيرها. وجدت دراسة نُشرت عام 2019 في مجلة Science أن خوارزمية صحية واسعة الاستخدام كانت متحيّزة ضد المرضى السود لأنها استخدمت الإنفاق على الرعاية الصحية كبديل عن الاحتياجات الصحية. ولأن المرضى السود كانوا تاريخيًا أقل وصولًا إلى الرعاية وبالتالي أقل إنفاقًا، فقد قلّلت الخوارزمية بشكل منهجي من تقدير احتياجاتهم الصحية.
- تحيّز التسميات (label bias): قد تعكس "الإجابات الصحيحة" المستخدمة لتدريب نماذج الذكاء الاصطناعي نفسها ممارسة سريرية متحيّزة. فإذا كانت حالات معيّنة تُشخَّص تاريخيًا بأقل من الواقع لدى النساء أو الأقليات، فسيتعلّم الذكاء الاصطناعي أن يقصّر في تشخيصها هو أيضًا.
- تحيّز الاختيار (selection bias): إذا جاءت بيانات التدريب أساسًا من مراكز طبية أكاديمية، فقد لا يؤدي الذكاء الاصطناعي جيدًا في المرافق الصحية المجتمعية، أو المستشفيات الريفية، أو المؤسسات التي تخدم الفئات الأقل حظًا.
- تحيّز القياس (measurement bias): قد تكون للأجهزة الطبية المستخدمة لجمع بيانات التدريب تحيّزات متأصلة. فقد ثبت مثلًا أن مقاييس التأكسج النبضي أقل دقة لدى المرضى ذوي البشرة الداكنة، ونماذج الذكاء الاصطناعي المدرّبة على هذه البيانات ترث عدم الدقة هذا.
عواقب في الواقع
عواقب الذكاء الاصطناعي المتحيّز في الرعاية الصحية ليست افتراضية:
- أداء أسوأ بشكل ملحوظ للذكاء الاصطناعي في الأمراض الجلدية مع درجات البشرة الداكنة
- نماذج مخاطر القلب المدرّبة أساسًا على مرضى ذكور تقلّل من تقدير الخطر لدى النساء
- أدوات فحص الصحة النفسية المعايَرة لسياق ثقافي واحد تُعطي نتائج غير دقيقة في سياقات أخرى
- خوارزميات توزيع الموارد التي تُديم الفوارق القائمة في الوصول إلى الرعاية
ما الذي يمكنك فعله
بصفتك مهنيًا في الرعاية الصحية، يمكنك الدفاع عن العدالة الصحية في الذكاء الاصطناعي من خلال:
- السؤال عن التركيبة السكانية لبيانات التدريب قبل أن تعتمد مؤسستك أداة ذكاء اصطناعي
- مراقبة الأداء عبر الفئات الفرعية من المرضى بعد النشر
- الإبلاغ عن الفوارق التي تلاحظها في أداء الذكاء الاصطناعي إلى مؤسستك وإلى المورّد
- الحفاظ على اليقظة السريرية: لا تدع الذكاء الاصطناعي يتجاوز حكمك السريري، خاصة مع المرضى من الفئات الممثَّلة تمثيلًا ناقصًا
الموافقة المستنيرة والشفافية
إخبار المرضى عن الذكاء الاصطناعي
هل ينبغي أن يعرف المرضى متى يشارك الذكاء الاصطناعي في رعايتهم؟ هذا سؤال لا يزال يتطوّر، لكن الاتجاه واضح نحو الشفافية:
- الكتبة الآليون المحيطيون: يجب إبلاغ المرضى بأن نظام ذكاء اصطناعي يسجّل محادثتهم ويعالجها. ومعظم الأنظمة الصحية التي تطبّق هذه الأدوات تشترط موافقة شفهية.
- الذكاء الاصطناعي التشخيصي: إذا نبّهت أداة ذكاء اصطناعي إلى نتيجة في فحص التصوير الخاص بك، فهل ينبغي أن تعرف؟ يرى كثير من علماء الأخلاقيات أن الإجابة نعم، وإن اختلفت تفاصيل الإفصاح.
- توصيات العلاج: إذا أثّر نظام دعم القرار السريري في قرار علاجي، فللمرضى مصلحة معقولة في معرفة ذلك.
لا يوجد اشتراط قانوني عالمي للإفصاح عن استخدام الذكاء الاصطناعي في الرعاية الصحية (على عكس، مثلًا، متطلبات الشفافية في EU AI Act للأنظمة عالية الخطورة). ومع ذلك، فالحجة الأخلاقية للشفافية قوية، والمتطلبات التنظيمية في طريقها على الأرجح.
قابلية التفسير
تعمل كثير من نماذج الذكاء الاصطناعي، خاصة أنظمة التعلّم العميق، كـ"صناديق سوداء". فهي تستطيع تحديد نتيجة في صورة أو التنبؤ بخطر لدى مريض، لكنها لا تستطيع شرح استدلالها بعبارات يفهمها البشر.
وهذا يخلق توترًا جوهريًا في الرعاية الصحية، حيث يُتوقَّع أن يكون الاستدلال السريري شفافًا وقابلًا للدفاع عنه. فعندما يضع الطبيب تشخيصًا، يستطيع شرح استدلاله. أما عندما ينبّه الذكاء الاصطناعي إلى نتيجة، فقد لا يكون الاستدلال متاحًا.
ومن الجهود المبذولة لمعالجة ذلك:
- أبحاث الذكاء الاصطناعي القابل للتفسير (XAI) التي تطوّر نماذج تستطيع إظهار استدلالها
- خرائط الانتباه (attention maps) في الذكاء الاصطناعي للتصوير، التي تبرز مناطق الصورة التي أثّرت في مخرجات النموذج
- درجات الثقة التي تبيّن مدى تأكد الذكاء الاصطناعي من توصيته
- ربط الإحالات (كما في Abridge) الذي يصل مخرجات الذكاء الاصطناعي ببيانات المصدر
المساءلة والمسؤولية القانونية
عندما يسهم الذكاء الاصطناعي في قرار سريري يؤدي إلى إلحاق الأذى بمريض، فمن المسؤول؟
- الطبيب الذي تصرّف بناءً على توصية الذكاء الاصطناعي؟
- المستشفى الذي نشر أداة الذكاء الاصطناعي؟
- مورّد الذكاء الاصطناعي الذي طوّر النظام وباعه؟
- علماء البيانات الذين درّبوا النموذج؟
تحمّل الأطر القانونية الحالية الطبيبَ عمومًا مسؤولية القرارات السريرية، بغضّ النظر عن الأدوات التي استند إليها في تلك القرارات. وهذا يؤكد النقطة الحاسمة: توصيات الذكاء الاصطناعي لا تقلّل مسؤوليتك المهنية. فإذا اتبعت توصية الذكاء الاصطناعي دون تطبيق حكمك السريري الخاص وتضرّر المريض، فالمسؤولية القانونية تقع عليك.
هذا ليس سببًا لتجنّب الذكاء الاصطناعي، بل سبب لاستخدامه بتمعّن. قيّم دائمًا توصيات الذكاء الاصطناعي من منظور تدريبك السريري ومعرفتك بالمريض بعينه.
أطر أخلاقية لاعتماد الذكاء الاصطناعي
نشرت عدة منظمات إرشادات أخلاقية للذكاء الاصطناعي في الرعاية الصحية:
- WHO Ethics and Governance of AI for Health (2021): ستة مبادئ، منها حماية الاستقلالية البشرية، وتعزيز الرفاه، وضمان الشفافية، وترسيخ المسؤولية، وضمان الشمولية، وتعزيز ذكاء اصطناعي مستجيب ومستدام.
- AMA Policy on Augmented Intelligence: تؤكد أن الذكاء الاصطناعي ينبغي أن يعزّز حكم الطبيب لا أن يحلّ محله، مع متطلبات للشفافية والإنصاف وإشراف الطبيب.
- Coalition for Health AI (CHAI): مبادرة تضم أطرافًا معنية متعددة لتطوير معايير لذكاء اصطناعي صحي جدير بالثقة.
أهم النقاط
- يمكن لتحيّز الذكاء الاصطناعي أن يؤذي المرضى مباشرة عبر نماذج غير مدرّبة بما يكفي، وبيانات تدريب متحيّزة، وخوارزميات تُديم الفوارق الصحية القائمة
- ينبغي لمهنيي الرعاية الصحية السؤال عن التركيبة السكانية لبيانات التدريب، ومراقبة أداء الذكاء الاصطناعي عبر الفئات الفرعية من المرضى، والإبلاغ عن الفوارق
- الشفافية مع المرضى بشأن مشاركة الذكاء الاصطناعي في رعايتهم مهمة أخلاقيًا ومتوقَّعة بشكل متزايد، حتى حيث لا تكون مطلوبة قانونيًا بعد
- تحمّل الأطر القانونية الحالية الأطباءَ مسؤولية القرارات السريرية بغضّ النظر عن مشاركة الذكاء الاصطناعي، فالذكاء الاصطناعي لا يقلّل المسؤولية المهنية
- توفّر الأطر الأخلاقية المعتمدة من WHO وAMA ومنظمات أخرى إرشادات لاعتماد الذكاء الاصطناعي بمسؤولية في الرعاية الصحية
اختبار قصير
التالي · الدرس 12 من 13
HIPAA وخصوصية البيانات والامتثال في استخدام الذكاء الاصطناعي
قراءة 5 دقيقة
أنهيت 11 من 13 درسًا

اسأل Byte عن هذا الدرس
محادثة خاصة حول هذا الدرس. قرأ Byte الدرس كاملًا، ويجيب خلال ثوانٍ، ويُظهر القسم الذي تأتي منه كل إجابة. يمكنك السؤال بأي لغة.
الأسئلة والأجوبة
أسئلة عامة حول هذا الدرس. يجيب AI Tutor فورًا بلغتك، ويراجع فريق FreeAcademy الإجابات، ويمكن لكل المتعلمين قراءتها.

