أدوات الذكاء الاصطناعي الطبية: تهديد للنساء والأقليات!

تشير دراسات حديثة إلى أنّ أدوات الذكاء الاصطناعي الطبية، التي يُفترض بها تسريع التشخيص وتخفيف عبء الأطباء، قد تحمل مخاطر غير متوقعة على بعض الفئات. فقد وجدت الأبحاث أن هذه النماذج اللغوية العميقة تميل إلى التقليل من خطورة الأعراض التي تعاني منها النساء، وتُظهر قدراً أقل من التعاطف مع الأقليات العرقية، ما يعرّض حياتهم لمخاطر حقيقية.

التحيّز ضد النساء والأقليات

كشفت دراسات أُجريت في جامعات أميركية وبريطانية مرموقة، بينها «معهد ماساتشوستس للتكنولوجيا» و«كلية لندن للاقتصاد»، أن أدوات مثل «جيميناي»، «شات جي بي تي» ونموذج «غوغل غيما» (Google Gemma)، تميل إلى التقليل من خطورة الأعراض البدنية والنفسية لدى النساء. في بعض الحالات، أوصت هذه الأدوات المرضى بتلقي العلاج في المنزل بدلاً من طلب التدخل الطبي الفوري. كما أظهرت نتائج الدراسات أن هذه النماذج تُبدي تعاطفاً أقل مع الأقليات العرقية، خصوصاً عند التعامل مع الأمراض النفسية.

سباق الشركات الكبرى

شركات التكنولوجيا العملاقة مثل «مايكروسوفت» و«أوبن إيه آي» تروّج لهذه الأدوات باعتبارها ثورة في قطاع الطب. بل إن «مايكروسوفت» ذهبت إلى حد الادعاء بأن إحدى أدواتها تتفوّق أربع مرات على الأطباء البشريين في التشخيص. إلا أن النتائج البحثية الأخيرة تكشف عن ثغرات جوهرية تهدد المصداقية الطبية لهذه النماذج إذا لم تُعالَج بشكل جدي وسريع.

جذور المشكلة

ترجع جذور هذه التحيزات إلى طبيعة البيانات المستخدمة في تدريب النماذج، حيث تعتمد الشركات على بيانات الإنترنت العامة، والتي قد تتضمن تحيزات لغوية أو عبارات عنصرية. هذه الانحيازات تنتقل بشكل مباشر إلى أداء الأدوات الطبية، ما يؤثر في نتائجها. ورغم محاولات الشركات تطوير قيود تقنية لتقليل هذه التأثيرات، إلا أن النتائج تشير إلى أن المشكلة لا تزال قائمة.

رد الشركات والحلول المقترحة

ردّت شركتا «أوبن إيه آي» و«غوغل» بالتأكيد على أن الدراسات اعتمدت على نماذج قديمة، وأن النماذج الأحدث أقل عرضة للتحيز، مع وعود بتطوير قيود ومعايير أكثر صرامة في المستقبل. في المقابل، يشدد خبراء مثل ترافيس زاك من «جامعة كاليفورنيا» على أن الحل الحقيقي لا يكمن فقط في تحديث النماذج، بل في اختيار بيانات تدريب أكثر دقة وموثوقية، والاعتماد على مستندات طبية معتمدة وإرشادات أطباء متخصصين.

بين الآمال الكبيرة التي يعلقها العالم على الذكاء الاصطناعي لإنقاذ الأرواح، والمخاوف من تهديد العدالة الصحية، تقف هذه الأدوات اليوم أمام مفترق طرق. فهل ستتحول إلى حليف حقيقي للطب الحديث، أم تصبح خطراً إضافياً يفاقم معاناة الفئات المهمشة؟