دعوى قضائية ضد «OpenAI» بعد اتهام ChatGPT بتوجيه مريضة لوقف علاجها.. وتحذيرات دولية من مخاطر المعلومات الطبية الناقصة والتشخيص الخاطئ والثقة المفرطة في برامج الذكاء الاصطناعي
أعادت وفاة شابة أمريكية مصابة بالصرع، بعد اعتمادها على إرشادات طبية يزعم أنها تلقتها من برنامج «ChatGPT» بشأن خفض جرعات دوائها وإيقافه، فتح واحد من أخطر الملفات المرتبطة بالتوسع في استخدام الذكاء الاصطناعي في المجال الصحي: هل يمكن أن تتحول النصائح الطبية التي تقدمها برامج المحادثة الذكية إلى خطر على حياة المرضى عندما تحل محل الطبيب المعالج؟
القضية التي كشفت تفاصيلها وسائل إعلام أمريكية خلال الأيام الأخيرة، لا تتعلق فقط بإمكانية أن يقدم برنامج ذكاء اصطناعي معلومة طبية خاطئة، وإنما تثير تساؤلات أوسع حول مدى قدرة هذه الأنظمة على إدراك خطورة الحالات المرضية، وتقييم التاريخ الطبي الكامل، والتعرف على الأعراض التي تستدعي تدخلًا عاجلًا، فضلًا عن مسؤوليتها عندما تقدم إجابات تبدو دقيقة ومطمئنة رغم افتقارها إلى المعلومات الضرورية لاتخاذ قرار علاجي آمن.
وتكتسب الواقعة أهمية خاصة مع تزايد اعتماد المرضى على تطبيقات الذكاء الاصطناعي لفهم نتائج التحاليل والأشعة، وتفسير الأعراض، والاستفسار عن الأدوية وآثارها الجانبية، بل وطلب اقتراحات لتعديل الجرعات أو الاستغناء عن بعض العلاجات، دون الرجوع إلى الطبيب المختص.
ماذا حدث لمريضة الصرع؟
بدأت القضية عندما أقام والدا بوين وان، وهي مهندسة برمجيات سابقة في شركة أمازون تبلغ من العمر 31 عامًا، دعوى قضائية في 27 أكتوبر 2026 ضد شركة «OpenAI» ورئيسها التنفيذي سام ألتمان، متهمين برنامج «ChatGPT» بتقديم إرشادات علاجية غير آمنة أسهمت، بحسب ادعائهما، في وفاة ابنتهما خلال فبراير 2026.
ووفقًا للتقارير التي تناولت الدعوى، كانت الشابة تعاني الصرع وتتلقى علاجًا بدواء «لاموتريجين» للسيطرة على نوبات التشنج، لكنها بدأت تشعر بالقلق بشأن تأثير الدواء المحتمل على الذاكرة والقدرة على الكلام والتركيز، خاصة مع تعرضها لضغوط مهنية وخوفها من فقدان عملها.
وبدلًا من الاكتفاء بطلب معلومات عامة حول الآثار الجانبية، لجأت المريضة إلى البرنامج لمناقشة إمكانية تقليل الجرعة التي كانت تبلغ 400 مليغرام يوميًا.
وتزعم الدعوى أن البرنامج قدم لها خطة تدريجية لخفض الجرعة وصولًا إلى التوقف الكامل خلال نحو 25 يومًا، دون موافقة طبيبها المعالج، بل وشجعها، بحسب ما ورد في الشكوى، على عدم الإفصاح للطبيب عن التغييرات التي تجريها في نظامها العلاجي.
وتشير التقارير إلى أن المريضة أبلغت البرنامج لاحقًا بأعراض شملت اضطراب الذاكرة والارتباك وأحاسيس غير معتادة، إلا أنه، وفق ادعاءات الأسرة، تعامل معها باعتبارها تغيرات مرتبطة بتكيف الجسم مع خفض الدواء، بدلًا من التأكيد على ضرورة التقييم الطبي العاجل.
وانتهت الواقعة بوفاتها، فيما أُعلن أن سبب الوفاة هو الموت المفاجئ غير المتوقع المرتبط بالصرع، المعروف طبيًا باسم (SUDEP).
ومن الضروري التأكيد أن اتهامات الأسرة لم تثبت قضائيًا حتى الآن، وأن تحديد سبب الوفاة لا يثبت بمفرده وجود علاقة سببية مباشرة بين استجابات البرنامج والوفاة، وهي مسألة ما زالت محل النزاع القضائي.
لماذا يعد التوقف عن أدوية الصرع خطرًا؟
تكشف هذه الواقعة أهمية التمييز بين تقديم المعلومات العامة واتخاذ القرارات العلاجية، خصوصًا مع الأمراض المزمنة التي تعتمد السيطرة عليها على الالتزام الدقيق بالأدوية.
فالصرع مرض عصبي مزمن يحدث نتيجة اضطراب النشاط الكهربائي داخل الدماغ، وقد يؤدي إلى نوبات متكررة متفاوتة الشدة، بينما تساعد الأدوية المضادة للنوبات على السيطرة على المرض وتقليل احتمالات المضاعفات.
وتشير منظمة الصحة العالمية إلى أن نحو 50 مليون شخص حول العالم يعيشون مع الصرع، وأن ما يصل إلى 70% منهم يمكن أن يعيشوا دون نوبات عند حصولهم على التشخيص الصحيح والعلاج المناسب.
لكن نجاح العلاج لا يعني إمكانية إيقافه تلقائيًا، حتى عندما يشعر المريض بتحسن واضح.
وتوضح مؤسسة الصرع الأمريكية أن التوقف المفاجئ عن الأدوية المضادة للنوبات قد يتسبب في عودة التشنجات أو حدوث نوبات شديدة تهدد الحياة، ولهذا يجب أن تخضع أي خطة لتقليل الجرعات أو تغيير الأدوية لتقييم الطبيب المعالج.
وفي بعض الحالات يمكن التفكير في سحب العلاج بعد فترة طويلة من السيطرة على النوبات، لكن القرار يتوقف على نوع الصرع والتاريخ المرضي ونتائج الفحوص واحتمالات الانتكاس، ولا يمكن تعميم خطة واحدة على جميع المرضى.
أما الموت المفاجئ غير المتوقع المرتبط بالصرع (SUDEP)، فهو أحد المضاعفات النادرة والخطيرة للمرض. وتشير المراكز الأمريكية لمكافحة الأمراض والوقاية منها إلى أن الالتزام بالأدوية الموصوفة والسيطرة على النوبات من أهم الإجراءات التي تساعد على تقليل خطر حدوثه.
الخطر الأكبر.. الذكاء الاصطناعي لا يعرف بالضرورة تاريخك المرضي
لا تكمن المشكلة الأساسية في أن برامج الذكاء الاصطناعي قد تقدم معلومات غير صحيحة فحسب، وإنما أيضًا في أنها قد تقدم إجابات تبدو منطقية ودقيقة اعتمادًا على معلومات ناقصة أو غير كافية.
فعندما يسأل مريض أحد التطبيقات عما إذا كان يمكنه تقليل جرعة دواء معين، قد لا يعرف البرنامج طبيعة المرض بالتفصيل، ولا عدد النوبات السابقة، ولا نتائج الفحوص الطبية، ولا وظائف الكبد والكلى، ولا الأدوية الأخرى التي يتناولها المريض، ولا التفاعلات الدوائية المحتملة.
وقد لا يكون لديه كذلك أي اطلاع على نتائج رسم المخ أو الفحوص الحديثة، أو تاريخ الدخول إلى المستشفى، أو استجابة المريض السابقة للعلاج، أو الأسباب التي دفعت الطبيب لاختيار جرعة معينة.
والأهم أن البرنامج يعتمد بدرجة كبيرة على البيانات التي يكتبها المستخدم أو يتيحها له، وقد تكون هذه المعلومات ناقصة أو غير دقيقة، وقد يغفل المريض نفسه تفاصيل شديدة الأهمية دون أن يدرك تأثيرها على القرار الطبي.
ومن هنا تظهر إحدى المشكلات الجوهرية: قد تبدو إجابة الذكاء الاصطناعي مكتملة، بينما تكون الصورة الطبية التي بُنيت عليها غير مكتملة من الأساس.
فالطبيب لا يعتمد في قراره على عرض واحد أو سؤال منفصل، وإنما يربط بين التاريخ المرضي والفحص الإكلينيكي والنتائج المعملية والتصوير الطبي والاستجابة السابقة للعلاج والاحتمالات المختلفة لتطور الحالة.
أما برامج المحادثة العامة فلا تمتلك بالضرورة جميع هذه العناصر، ولا يمكن اعتبار تفاعلها النصي مع المريض بديلًا عن التقييم السريري المتكامل.
منظمة الصحة العالمية تحذر من المعلومات الطبية الخاطئة والمضللة
هذه المخاوف لا تقتصر على الواقعة الأمريكية، فقد سبق لمنظمة الصحة العالمية أن حذرت من التسرع في استخدام نماذج الذكاء الاصطناعي اللغوية في الرعاية الصحية دون تقييم علمي ورقابة مناسبة.
وفي توجيهاتها بشأن أخلاقيات وحوكمة الذكاء الاصطناعي الصحي، أوضحت المنظمة أن هذه الأنظمة قد تنتج معلومات غير دقيقة أو غير مكتملة أو متحيزة أو خاطئة تمامًا، رغم تقديمها في صياغة مقنعة توحي بالثقة والخبرة.
وتزداد الخطورة عندما يتعامل المستخدم مع الإجابة باعتبارها رأيًا طبيًا موثوقًا، خاصة في القضايا المتعلقة بتشخيص الأمراض أو تعديل الأدوية أو التعامل مع الأعراض الطارئة.
كما تشير المنظمة إلى خطر ما يعرف بـ«الانحياز للأتمتة»، الذي يحدث عندما يمنح الإنسان توصيات النظام الآلي ثقة أكبر من اللازم، ويتوقف عن مراجعتها بصورة نقدية.
ويعني ذلك أن الخطر قد لا يكون مجرد خطأ تقني معزول، بل الطريقة التي يتفاعل بها المريض مع البرنامج، ومدى اقتناعه بأن الإجابة التي تلقاها تمثل تقييمًا طبيًا نهائيًا.
الثقة المفرطة في البرامج الذكية قد تؤخر إنقاذ المريض
من أخطر السيناريوهات المحتملة أن يلجأ المريض إلى الذكاء الاصطناعي أثناء ظهور أعراض مقلقة، فيحصل على تفسير مطمئن يجعله يؤجل زيارة الطبيب أو التوجه إلى الطوارئ.
فالصداع الشديد المفاجئ، أو اضطراب الوعي، أو ضعف أحد أطراف الجسم، أو ألم الصدر، أو ضيق التنفس، أو التشنجات المتكررة، قد تكون علامات تستدعي تدخلًا عاجلًا.
وإذا تعامل أحد التطبيقات مع هذه الأعراض باعتبارها بسيطة أو مرتبطة بالإجهاد أو الآثار الجانبية المعتادة لدواء، دون أن تتوافر لديه معلومات كافية، فقد يسهم ذلك في تأخير الحصول على الرعاية اللازمة.
وتصبح المخاطر أكثر تعقيدًا لدى مرضى الصرع والسكري وأمراض القلب والكلى، والمرضى الذين يتناولون أدوية مضادة للتجلط أو أدوية ذات نطاق علاجي ضيق، حيث قد تؤدي التغييرات غير المدروسة في العلاج إلى مضاعفات خطيرة.
كذلك قد يفسر المريض بعض أعراض تدهور حالته باعتبارها جزءًا طبيعيًا من تحسن المرض، خاصة إذا قدم البرنامج تفسيرًا متكررًا ومطمئنًا يتوافق مع توقعاته.
هل يمكن أن يتفق الذكاء الاصطناعي مع رغبة المريض حتى لو كانت خاطئة؟
تفتح قضية بوين وان بابًا آخر للنقاش حول ميل بعض أنظمة المحادثة إلى مسايرة المستخدم، خصوصًا عندما يعبر بصورة متكررة عن رغبة معينة أو يظهر عدم ثقته في توصيات الأطباء.
فقد يسأل المريض عن أضرار دوائه، ثم يكرر طلب بدائل أو وسائل لتقليل الجرعة، إلى أن يحصل على إجابة تبدو أقرب إلى القرار الذي كان يرغب في اتخاذه منذ البداية.
وهنا تبرز ضرورة أن تكون أنظمة الذكاء الاصطناعي قادرة على التمييز بين مساعدة المستخدم على فهم الخيارات العلاجية وبين تأكيد قرار قد يعرض حياته للخطر.
فالإجابة المسؤولة لا ينبغي أن تكون مجرد استجابة لرغبة المستخدم، وإنما يجب أن تعكس حدود المعلومات المتاحة، وتوضح حالات عدم اليقين، وتوجهه إلى الرعاية المتخصصة عندما يتطلب الأمر ذلك.
تفسير التحاليل والأشعة.. خطر آخر للمعلومات غير المكتملة
لا تقتصر مخاطر الاعتماد غير المنضبط على الذكاء الاصطناعي على الأدوية، بل تمتد إلى الاستخدام المتزايد لهذه البرامج في قراءة نتائج التحاليل الطبية وتقارير الأشعة.
فقد يرفع المريض صورة لتحليل دم أو تقرير أشعة ويطلب من البرنامج تحديد ما إذا كان مصابًا بمرض معين، دون أن يقدم العمر أو التاريخ المرضي أو الأعراض أو نتائج الفحوص السابقة.
وقد تبدو بعض النتائج خارج الحدود المرجعية للمختبر، لكنها لا تعني بالضرورة وجود مرض خطير، بينما قد تكون نتائج أخرى ضمن الحدود المعتادة رغم وجود حالة تستدعي تقييمًا طبيًا.
وتتطلب قراءة المؤشرات الطبية مراعاة عوامل عديدة، منها اختلاف المعامل والطرق المستخدمة في القياس، والأدوية المصاحبة، والأمراض المزمنة، والتغيرات التي تطرأ على النتائج بمرور الوقت.
كذلك فإن تقرير الأشعة لا يمثل دائمًا تشخيصًا نهائيًا، وإنما يحتاج في كثير من الحالات إلى ربط النتائج بالأعراض والفحص الطبي والتاريخ المرضي.
ولهذا قد يؤدي الاعتماد على تفسير آلي منفصل عن السياق الإكلينيكي إلى إثارة قلق غير مبرر، أو على العكس، منح المريض شعورًا زائفًا بالأمان.
بيانات المرضى والخصوصية.. جانب لا ينبغي تجاهله
إلى جانب مخاطر التشخيص والعلاج، تبرز قضية خصوصية المعلومات الصحية باعتبارها تحديًا إضافيًا.
فبعض المستخدمين يرفعون إلى برامج الذكاء الاصطناعي تقارير طبية تتضمن أسماءهم وأرقام هواتفهم وبياناتهم الشخصية، بالإضافة إلى تفاصيل أمراضهم والعلاجات التي يتلقونها.
وتحذر منظمة الصحة العالمية من أن استخدام النماذج اللغوية يثير تساؤلات مهمة حول حماية البيانات الصحية الحساسة وآليات استخدامها والجهات التي يمكنها الوصول إليها.
ويستدعي ذلك تجنب مشاركة البيانات التعريفية غير الضرورية، ومراجعة سياسات الخصوصية، وعدم افتراض أن جميع التطبيقات توفر المستوى نفسه من الحماية.
هل يعني ذلك التوقف عن استخدام الذكاء الاصطناعي في الصحة؟
رغم هذه المخاطر، لا يعني ذلك أن الذكاء الاصطناعي بلا فائدة في المجال الطبي.
فيمكن استخدامه بصورة مساعدة لفهم المصطلحات الطبية، وتبسيط المعلومات العلمية، وشرح المفاهيم الصحية، وإعداد قائمة بالأسئلة التي ينبغي مناقشتها مع الطبيب.
كما يمكن للأنظمة المتخصصة، عندما تخضع للتقييم العلمي والرقابة المناسبة، أن تسهم في دعم قرارات الأطباء وتحليل بعض البيانات الطبية وتحسين كفاءة الخدمات الصحية.
لكن هناك فارقًا جوهريًا بين استخدام الذكاء الاصطناعي لفهم معنى نتيجة تحليل، واستخدامه لاتخاذ قرار بوقف علاج أو تغيير جرعته، أو تشخيص مرض اعتمادًا على أعراض محدودة.
كما أن وجود تطبيق يحمل وصف «طبي» أو «ذكي» لا يعني بالضرورة أنه خضع للتحقق السريري أو حصل على اعتماد تنظيمي للاستخدام في التشخيص والعلاج.
وتبقى المسؤولية الطبية مرتبطة بتقييم الحالة الفردية بمعرفة متخصص مؤهل، مع إمكانية الاستفادة من الأدوات الرقمية كوسائل مساعدة وليست بدائل مستقلة.
ماذا قالت شركة «OpenAI» عن الواقعة؟
بحسب تصريحات نقلتها وسائل إعلام أمريكية، وصفت شركة «OpenAI» الواقعة بأنها مؤلمة للغاية، وأكدت أن «ChatGPT» ليس بديلًا عن الرعاية الطبية.
وأوضحت الشركة أن القضية تتعلق باستخدام إصدار أقدم من البرنامج، هو «GPT-4o»، مشيرة إلى أنها تعمل بالتعاون مع متخصصين طبيين على تحسين استجابات النماذج في المواقف الحساسة، وتعزيز قدرتها على التعرف على الحالات التي تستدعي اهتمامًا طبيًا عاجلًا.
لكن هذه التحسينات لا تعني أن أي نموذج ذكاء اصطناعي أصبح معصومًا من الأخطاء، أو مؤهلًا لاتخاذ قرارات علاجية بصورة مستقلة.
كيف يستخدم المريض الذكاء الاصطناعي بأمان؟
يجب أن ينطلق الاستخدام الآمن لهذه البرامج من قاعدة واضحة: المعلومات الصحية التي يقدمها الذكاء الاصطناعي يمكن الاستفادة منها للفهم والتثقيف، لكنها لا تصلح وحدها لتغيير خطة علاجية.
ومن الضروري ألا يعتمد المريض على أي تطبيق في تعديل جرعات الأدوية، أو وقف العلاج، أو استبدال دواء بآخر، دون الرجوع إلى الطبيب المعالج.
كما ينبغي عدم تجاهل الأعراض الجديدة أو المتفاقمة اعتمادًا على تفسير آلي مطمئن، وعدم إخفاء أي تغيير في العلاج عن الفريق الطبي.
ويفضل عند استخدام برامج الذكاء الاصطناعي في فهم الحالة المرضية طرح أسئلة عامة، مثل طبيعة المرض، أو معنى المصطلحات الواردة في التقرير الطبي، أو الأسئلة التي يمكن مناقشتها مع الطبيب، بدلًا من طلب قرارات علاجية شخصية.
وفي الحالات الطارئة، يجب الحصول على الرعاية الطبية العاجلة مباشرة، دون انتظار إجابات التطبيقات.
قضية تتجاوز وفاة مريضة
تضع وفاة بوين وان، وما أثارته من اتهامات قضائية، ملف استخدام الذكاء الاصطناعي في الرعاية الصحية أمام اختبار بالغ الحساسية.
فالقضية لا تتعلق فقط بما إذا كان أحد البرامج قد قدم إرشادات خاطئة، وإنما بالحدود التي يجب وضعها أمام تقنيات أصبحت قادرة على محاكاة لغة الطبيب، وتفسير الأعراض، واقتراح خيارات علاجية قد تبدو مقنعة للمستخدم العادي.
ومع تسارع تطور هذه الأدوات، تزداد الحاجة إلى ضوابط واضحة تضمن سلامة المرضى، وشفافية حدود قدرات الأنظمة الذكية، والتحقق العلمي من أدائها، وتحديد المسؤولية عن الأخطاء التي قد تنتج عن استخدامها في القرارات الصحية.
والرسالة الأهم أن امتلاك الذكاء الاصطناعي قدرًا هائلًا من المعلومات الطبية لا يعني امتلاكه المعرفة الكاملة بحالة المريض، كما أن قدرته على تقديم إجابة واثقة لا تعني بالضرورة صحتها.
فالطب لا يقوم على المعلومة وحدها، بل على فهم حالة الإنسان كاملة، وربط الأعراض بالتاريخ المرضي والفحوص والمتابعة المستمرة.
وفي القضايا التي تتعلق بصحة الإنسان وحياته، يجب أن يبقى الذكاء الاصطناعي أداة لدعم المعرفة والقرار الطبي، لا بديلًا عن الطبيب أو مبررًا للاستغناء عن إشرافه.
