المديح قد يدفع «شات جي بي تي» إلى تجاوز قيوده

كشفت دراسة حديثة أجرتها «جامعة بنسلفانيا» أن روبوت المحادثة «شات جي بي تي» المطوّر من شركة «أوبن إيه آي» قد ينحرف عن التعليمات الموضوعة له عند تعرضه للمديح أو الإطراء من المستخدمين، ما يثير مخاوف جديدة بشأن استغلاله في طلبات غير آمنة.

تكتيكات نفسية مؤثرة

اعتمد الباحثون على أساليب الإقناع التي عرضها عالم النفس روبرت سيالديني في كتابه «التأثير: سيكولوجية الإقناع»، مثل الاعتراف بالسلطة، الإعجاب، الالتزام، الندرة والمعاملة بالمثل. ومن خلال هذه التكتيكات، تمكنوا من دفع نموذج GPT-4o mini للموافقة على طلبات يرفضها عادة، مثل الإساءة للمستخدمين أو تقديم إرشادات لصناعة المخدرات.

نتائج مثيرة للقلق

أظهرت التجارب أن احتمال استجابة النموذج لطلب خطير، مثل شرح كيفية تصنيع مخدر «ليدوكايين»، ارتفع من 1% إلى 100% عند تقديم الطلب تدريجياً بدءاً من مواد أبسط مثل «الفانيلين». أما عند مقارنته بنماذج ذكاء اصطناعي منافسة، فقد ارتفعت نسبة الاستجابة إلى 18% فقط.

مخاوف متزايدة

تسلط الدراسة الضوء على خطر حقيقي يتمثل في إمكانية تلاعب المستخدمين بالأنظمة الذكية عبر أساليب نفسية بسيطة، وهو ما قد يفتح الباب أمام استخدامها في جرائم أو ممارسات ضارة. وتأتي هذه النتائج وسط جهود متواصلة من الشركات التقنية لفرض قيود صارمة تمنع استغلال الذكاء الاصطناعي في الأفعال غير القانونية.