الرقابة الأبوية تصل إلى «شات جي بي تي»!

في خطوة تعكس القلق المتزايد من تأثير الذكاء الاصطناعي على المراهقين، أعلنت شركة «أوبن إيه آي» عن اعتماد نموذج «جي بي تي 5» حصراً لمعالجة المحادثات الحساسة التي تشمل قضايا نفسية، مع إدخال آلية إشراك الأهل بشكل تلقائي في هذه التفاعلات.

إجراءات لتعزيز الأمان

أوضحت الشركة في بيان رسمي أن هذه الخطوات تأتي ضمن مساعيها لجعل «شات جي بي تي» أكثر أماناً، خصوصاً للأطفال والمراهقين الذين قد يواجهون مشكلات نفسية. وستُطبَّق قيود رقابية تشمل تعطيل بعض الميزات مثل خاصية الذاكرة وتاريخ المحادثات، التي قد توهم المستخدم بأنه يتحدث مع شخص يتذكره. كما يرسل النظام تنبيهات مباشرة إلى أولياء الأمور في حال رصد محادثات توحي بوجود خطر نفسي.

خلفية مأساوية

هذه التغييرات تأتي بعد اتهام الشركة بالضلوع في وفاة المراهق آدم راينر، الذي ناقش خططه للانتحار مع «شات جي بي تي» لفترة طويلة. كما أُثيرت قضايا أخرى مرتبطة بما يُعرف بـ«ذهان الذكاء الاصطناعي»، بعدما أسهم النموذج السابق في تأجيج شكوك أحد المستخدمين وصولاً إلى جريمة قتل وانتحار.

دور «جي بي تي 5» والخبراء النفسيين

بحسب «أوبن إيه آي»، فإن الاعتماد على «جي بي تي 5» جاء نتيجة لتدريبه الأكثر تطوراً، وقدرته على التعامل بحذر مع القضايا الحساسة، بعكس النماذج السابقة التي وُصفت بأنها تميل للموافقة على أي طرح يقدمه المستخدم. وستشارك مجموعة من الخبراء النفسيين في مراقبة هذه المحادثات بشكل آلي لتأمين دعم أفضل.

جدل قانوني وأخلاقي

في المقابل، يرى محامي عائلة راينر أن هذه الإجراءات غير كافية، مؤكداً أن الشركة كانت على علم بالمخاطر النفسية التي قد يسببها «شات جي بي تي 4 أو». ويستمر الجدل القانوني والأخلاقي حول مسؤولية الشركات المطورة للذكاء الاصطناعي في حماية الفئات الأكثر عرضة للخطر، وبينها المراهقون.