«غروك» يثير عاصفة جدل: صور جنسية على منصة «إكس»!

أثار روبوت الدردشة الذكي «غروك»، المدمج في منصة «إكس»، موجة غضب وانتقادات دولية بعد استخدامه في توليد صور جنسية مُلفّقة لنساء، بينها حالات يُشتبه بأنها لقاصرين، وفق تحقيق أجرته وكالة «رويترز».

وتعود إحدى أبرز هذه الحالات إلى الموسيقية البرازيلية جولي يوكاري (31 عاماً)، التي نشرت صورة شخصية لها ليلة رأس السنة، لتتفاجأ في اليوم التالي بمستخدمين يطلبون من «غروك» تعديل صورتها رقمياً ونزع ملابسها. وعلى عكس توقعاتها، استجاب الروبوت، لتنتشر صور شبه عارية مُولّدة بالذكاء الاصطناعي لها على نطاق واسع.

وقالت يوكاري لـ«رويترز»: «كنت ساذجة في اعتقادي أن هذا لن يحدث»، مضيفة أن ما تعرضت له جعلها تشعر بالخجل والرغبة في الاختفاء، رغم أن الجسد الظاهر في الصور «غير حقيقي».

صور جنسية وانتقادات رسمية

وكشف تحليل أجرته «رويترز» عن عشرات الطلبات خلال دقائق معدودة، تطالب «غروك» بإلباس نساء ملابس فاضحة أو شفافة، مع استجابة كاملة أو جزئية في عدد كبير من الحالات. كما رُصدت طلبات تستهدف فتيات يرتدين أزياء مدرسية، ما أثار مخاوف جدية بشأن سلامة القاصرين.

وفي فرنسا، أعلنت وزارات رسمية إحالة منصة «إكس» إلى القضاء والهيئات التنظيمية، ووصفت المحتوى المنتشر بأنه «جنسي وتمييزي وغير قانوني بشكل واضح». كما وجّهت وزارة تكنولوجيا المعلومات الهندية رسالة تحذير إلى المنصة، معتبرة أنها فشلت في منع إساءة استخدام الذكاء الاصطناعي لتوليد محتوى إباحي.

في المقابل، امتنعت الشركة عن التعليق على نتائج تحقيق «رويترز»، فيما سبق لشركة «إكس إيه آي»، المالكة لـ«غروك»، أن وصفت تقارير مماثلة بأنها «أكاذيب الإعلام التقليدي».

خبراء: ما حدث كان متوقعاً

وحذّر خبراء في مجال الذكاء الاصطناعي وسلامة المحتوى من أن ما يجري لم يكن مفاجئاً. وقال المدير التنفيذي لمشروع «ميداس» الرقابي، تايلر جونستون: «حذرنا منذ أشهر من أن أداة توليد الصور لدى ‹إكس إيه آي› ليست سوى أداة تعرية رقمية جاهزة للاستغلال».

من جهتها، اعتبرت المستشارة القانونية لـ«المركز الوطني لمكافحة الاستغلال الجنسي»، داني بينتر، أن ما حدث «جريمة كان يمكن تفاديها»، متهمة منصة «إكس» بالفشل في تنقية بيانات التدريب ومنع الطلبات غير القانونية.

جدل متصاعد ومسؤولية غائبة

ويُنظر إلى تسهيل استخدام «غروك» في تعديل الصور بنقرة واحدة وطلب نصي بسيط، على أنه خفّض بشكل خطير عتبة الوصول إلى ما يُعرف بـ«التزييف العميق غير التوافقي»، وهي تقنية لطالما ارتبطت بمواقع مظلمة ومنصات مغلقة.

وفي ظل صمت الجهات التنظيمية الأميركية حتى الآن، تتصاعد الدعوات إلى مساءلة شركات الذكاء الاصطناعي عن الانتهاكات الأخلاقية والقانونية، وسط مخاوف من تحوّل هذه الأدوات إلى وسائل اعتداء رقمي ممنهج، لا سيما بحق النساء والأطفال.