المعلومات الطبية الخاطئة قد تخدع الذكاء الاصطناعي!

كشفت دراسة حديثة أجراها باحثون في «كلية إيكان للطب» بجامعة «جبل سيناء» في نيويورك أن نماذج الذكاء الاصطناعي قد تتبنّى معلومات طبية غير دقيقة عندما تُقدَّم لها ضمن مصادر تبدو موثوقة، ما قد يؤدي إلى تقديم نصائح صحية خاطئة للمستخدمين.

الثقة بالمصدر أهم من دقة المعلومة

ووفقاً للدراسة، التي شملت 20 نموذجاً مختلفاً من نماذج الذكاء الاصطناعي، تبيّن أن هذه الأنظمة تميل إلى تصديق المعلومات الخاطئة بدرجة أكبر عندما تظهر ضمن تقارير أو ملاحظات طبية رسمية، مقارنة بالمعلومات المضللة المنتشرة على منصات التواصل الاجتماعي. وأوضح الباحثون أن النماذج تتعامل غالباً مع اللغة الطبية بوصفها موثوقة بشكل افتراضي، بغضّ النظر عن صحة المحتوى.

وأظهرت النتائج أن نسبة تصديق النماذج للمعلومات الخاطئة بلغت نحو 32% بشكل عام، لكنها ارتفعت إلى نحو 47% عندما وردت الأخطاء داخل تقارير طبية، وهو ما يشير إلى حساسية هذه الأنظمة لطبيعة مصدر المعلومات أكثر من دقتها الفعلية. كما بيّنت الدراسة أن النماذج الأقل تقدماً أو التي تعتمد على بيانات تدريب محدودة كانت أكثر عرضة لتصديق المعلومات المضللة، في حين سجلت نماذج التفكير المتقدمة معدلات أقل بكثير من الأخطاء.

مخاوف متزايدة مع توسّع الاستخدام الطبي

شملت الدراسة نماذج طوّرتها شركات تقنية عالمية، من بينها «مايكروسوفت» و«غوغل» و«ميتا» و«علي بابا»، إضافة إلى نماذج مخصّصة للاستخدامات الطبية. والمفارقة أن بعض النماذج المصمّمة خصيصاً للقطاع الصحي لم تُظهر تفوقاً واضحاً في مقاومة المعلومات الخاطئة مقارنة بالنماذج العامة الأكبر حجماً.

وتأتي هذه النتائج في وقت يتزايد فيه الاعتماد على الذكاء الاصطناعي في تحليل التقارير الطبية ومراجعة الفحوصات، سواء من قبل الأطباء أو المستخدمين، الأمر الذي يعزّز الدعوات إلى وضع ضوابط أكثر صرامة لاستخدام هذه التقنيات في المجالات الحساسة مثل الرعاية الصحية. كما دفعت مخاوف مشابهة بعض الشركات التقنية إلى مراجعة أدواتها، إذ قامت شركات كبرى بتعديل أو إيقاف بعض مزايا التلخيص الطبي الآلي بعد تسجيل أخطاء في الإجابات المقدّمة للمستخدمين.

ويرى الباحثون أن تحسين آليات التحقق من المصادر، وتدريب النماذج على تقييم موثوقية المعلومات بدقة أكبر، يمثّلان خطوة أساسية لضمان استخدام آمن وفعّال للذكاء الاصطناعي في القطاع الطبي، خاصة مع تزايد الاعتماد عليه في اتخاذ قرارات قد تؤثر مباشرة في صحة المرضى.