«تشات جي بي تي» يخذل النساء: تحيّز في النصائح المالية والمهنية

في وقت تتوسّع فيه تطبيقات الذكاء الاصطناعي التوليدي في مختلف جوانب الحياة، كشفت دراسة حديثة من جامعة «فورتسبورغ-شفاينفورت» التقنية في ألمانيا عن وجود تحيّز جندري واضح في نماذج الذكاء الاصطناعي، وعلى رأسها «تشات جي بي تي».

الدراسة، التي قادها الباحث إيفان يامششيكوف، أظهرت أن هذه النماذج قد تقدّم نصائح مالية ومهنية مختلفة بناءً على جنس المستخدم، حتى عند تساوي المؤهلات والخبرة.

فجوة مقلقة في التوصيات المالية

اعتمدت التجربة على تزويد خمسة نماذج توليدية شهيرة بملفّات تعريفية افتراضية لمستخدمين لا يختلفون إلا في الجنس، مع توحيد الخلفيات العلمية والمهنية. وقد كانت النتائج صادمة: ففي أحد الاختبارات، اقترح النموذج o3 في «تشات جي بي تي» راتباً سنوياً قدره 400 ألف دولار لمستخدم ذكر، مقابل 280 ألف دولار فقط لمستخدمة أنثى في الحالة نفسها.

لم تكن هذه الحالة معزولة، بل لوحظت فوارق أكبر في القطاعات ذات الطابع المهني المرتفع مثل الطب والقانون، بينما كانت الفروقات أقل في مجالات مثل العلوم الاجتماعية. كما تكرّر التحيّز في توصيات المهنة والتوجيهات السلوكية، ما يشير إلى نمط ممنهج في التفاعل مع المستخدمين بحسب جنسهم.

تحيّزات متكررة رغم التطور التقني

التحيّزات الجندرية في أدوات الذكاء الاصطناعي ليست ظاهرة جديدة. ففي عام 2018، أوقفت «أمازون» نظام توظيف داخلياً بعدما تبين أنّه يفضّل الذكور على الإناث. وفي عام 2023، كُشف عن نظام ذكاء اصطناعي طبي يقلّل دقة التشخيص لدى النساء والأشخاص ذوي البشرة الداكنة، نتيجة بيانات تدريب غير متوازنة.

الدراسة الجديدة تبيّن أن التقدّم في تطوير النماذج لا يعني بالضرورة التخلّص من الانحيازات الكامنة، خصوصاً عندما تكون البيانات المستخدمة في التدريب غير ممثلة بشكل كافٍ لفئات المجتمع كافة.

دعوة إلى الشفافية والتدقيق الأخلاقي

خلص الباحثون إلى أن الحلول التقنية وحدها غير كافية لتقليل هذه الانحيازات، داعين إلى اعتماد معايير أخلاقية صارمة، وإجراء مراجعات مستقلة ودورية للنماذج، إلى جانب تعزيز الشفافية في مراحل تطويرها واختبارها.

في هذا السياق، أشار موقع «ذا نكست ويب» إلى خطورة «وهم الموضوعية» في الذكاء الاصطناعي، لا سيما عند الاعتماد عليه في مجالات حساسة مثل المشورة النفسية أو التخطيط المالي والمهني، حيث يمكن لتحيّزات بسيطة أن تؤدي إلى قرارات غير عادلة على نطاق واسع.

الذكاء الاصطناعي ليس بمنأى عن التحيّز

تسلّط هذه الدراسة الضوء على تحدٍ جوهري في الذكاء الاصطناعي المعاصر: كيف نضمن أن تكون الخوارزميات منصفة وشاملة، وتخدم الجميع دون تمييز؟

في ظلّ التوسّع السريع في الاعتماد على هذه الأدوات، يصبح من الضروري وضع ضوابط دقيقة تضمن نزاهة الخوارزميات، وتمنع إعادة إنتاج التحيّزات المجتمعية داخل الفضاء الرقمي.