خطأ غوغل يفضح مخاطر الذكاء الاصطناعي

في ورقة بحثية عرضت فيها شركة غوغل نموذجها الجديد للذكاء الاصطناعي الطبي Med-Gemini عام 2024، ورد خطأ مثير للقلق، إذ أشار النموذج إلى وجود مشكلة في منطقة من الدماغ تُدعى basilar ganglia، وهي مصطلح غير موجود علمياً، إذ يُخلط فيه بين «العقد القاعدية» (basal ganglia) و«الشريان القاعدي» (basilar artery).

الخطأ، الذي وصفته غوغل لاحقاً بأنه مجرد «خطأ مطبعي»، مرّ من دون أن يلاحظه أكثر من 50 باحثاً وقعوا على الورقة العلمية، أو حتى في منشور مدونة الشركة، قبل أن يكتشفه طبيب أعصاب ويفضحه على «لينكدإن».

ردود فعل مشككة وتحذيرات مهنية

وصف أطباء وخبراء، من بينهم الدكتور ماولين شاه من نظام Providence الصحي، الخطأ بأنه «خطير للغاية»، مؤكدين أن تغيير حرفين في السياق الطبي قد يؤدي إلى قرارات علاجية كارثية. ورغم تأكيد غوغل أن النظام اكتشف فعلياً حالة مرضية حقيقية، فإن استخدام مصطلح غير دقيق يُثير تساؤلات جوهرية حول مدى جاهزية الذكاء الاصطناعي لتولي مهمات حساسة في المجال الصحي.

وأكد كبير علماء البيانات في Duke Health، الدكتور مايكل بنسينا، أن الخطأ أقرب إلى «هلوسة لغوية» من كونه مجرد «خطأ مطبعي»، مشيراً إلى أن الذكاء الاصطناعي، بقدر ما يبدو مقنعاً، قد يقدّم معلومات زائفة تبدو واقعية تماماً.

خطورة الهلوسة... والتكرار الآلي للأخطاء

أحد أبرز المخاطر في نماذج الذكاء الاصطناعي الطبية، كما تشير الدكتورة جودي غيشويا من «جامعة إيموري»، هو أنها نادراً ما تعترف بعدم معرفتها، بل تميل إلى «تأليف» إجابات مقنعة حتى لو كانت خطـأ، ما يُصعّب على الأطباء اكتشاف الخطأ. عند اختبار النموذج الجديد Med-Gemini على صور أشعة متطابقة لكن مع تغيير طفيف في صيغة السؤال، تغيّرت الإجابات بشكل ملحوظ، ما كشف عن حساسية النموذج الزائدة لتركيب الجملة، وليس فقط للمعلومة الطبية.

وفي أحد التحليلات، أدى خطأ بسيط في إدخال بيانات سرطان إلى تكرار الخطأ في تقارير متعددة عبر الزمن، بسبب تعلّم الذكاء الاصطناعي من بيانات خطأ سابقة، وهو ما يسمى «تحيّز الأتمتة».

هل نثق بالآلة؟ أم نعود إلى البشر؟

يرى خبراء أن التسرع في دمج الذكاء الاصطناعي في الرعاية الصحية قد يكون محفوفاً بالمخاطر. فبينما تسوّق الشركات لهذه النماذج كقادرة على توفير تقارير دقيقة وتحسين كفاءة الأطباء، فإن غياب أدوات رصد تلقائي للهلوسة أو الإشارات التحذيرية يعقّد الأمور.

يقول الدكتور جوناثان تشين من «جامعة ستانفورد»: «حتى لو بلغ الذكاء الاصطناعي دقة الإنسان، فهذا لا يكفي… نحن نثق به أكثر مما يجب». ويضيف: «إذا كنت تستخدم سيارة من دون سائق وقدت بك بامتياز 99 مرة، فإنك قد تغفو في المرة المئة، ولكن ماذا لو كانت تلك المرة هي لحظة حياة أو موت؟».

الذكاء الاصطناعي في الطب: بين الوعد والمخاطر

يتفق الخبراء على أن الذكاء الاصطناعي قد يحمل فوائد هائلة للمجال الطبي، ولكن يجب ألا يُطلق له العنان من دون قيود. المطالبة بمعايير صارمة، وأنظمة تحقق مزدوج، واعتراف بحدود هذه النماذج، باتت ضرورية، خاصة في مجالات مثل الأشعة والأورام والجراحة.

ويختتم شاه: «ما دمتُ أستطيع مناقشة الخطأ مع طبيب، فأنا مطمئن. لكن من أناقش عندما يُخطئ الذكاء الاصطناعي؟».