«أوبن إيه آي»: الذكاء الاصطناعي قد يستحيل سلاحاً سيبرانياً!
«أوبن إيه آي» تحذّر من قدرات سيبرانية عالية قد يمتلكها الجيل التالي من نماذجها، وتعمل بالتوازي على تعزيز الدفاعات ووضع ضوابط تمنع إساءة الاستخدام.
حذّرت شركة «أوبن إيه آي» من مخاطر متزايدة قد تطرحها نماذج الذكاء الاصطناعي المتقدمة، مؤكدة أن الجيل الجديد من تقنياتها قد يمتلك قدرات تساعد على اكتشاف الثغرات وتنفيذ هجمات إلكترونية معقّدة، وفق ما أوردته وكالة «رويترز».
نماذج أقوى… وتهديدات أكبر
أوضحت الشركة في تدوينة رسمية أن التطور المتسارع للذكاء الاصطناعي يجعله قادراً على أداء مهمات حساسة في مجال الأمن السيبراني، ما يخلق «مخاطر عالية» إذا استُخدمت هذه القدرات خارج الأطر الآمنة.
وفي المقابل، تؤكد «أوبن إيه آي» أنها تعمل على توظيف هذه القوة لدعم الدفاعات السيبرانية، من خلال تمكين الخبراء من تدقيق الأكواد وكشف الثغرات بسرعة ودقة أعلى.
قيود صارمة لمنع سوء الاستخدام
وبحسب التقرير، تعتمد الشركة منظومة متعددة المستويات للحد من أي استغلال يشمل:
- قيود استخدام مشدّدة
- مراقبة مستمرة للنشاط
- تعزيز البنية التحتية الأمنية
- ضوابط تمنع توليد محتوى ضار أو أدوات هجومية
كما تدرس الشركة منح خبراء الأمن السيبراني وصولاً موسعاً إلى النماذج الأقوى، بشرط التحقق الكامل من هويّاتهم وضمان أن استخدامهم «مبرّر ومؤمّن».
مجلس لمخاطر الحدود
أعلنت «أوبن إيه آي» أيضاً عن تأسيس «مجلس مخاطر الحدود»، وهو هيئة تضم خبراء في الأمن السيبراني والدفاع، بهدف دعم فرق الشركة في رصد المخاطر الناشئة ووضع معايير أمان أكثر صرامة للجيل القادم من التقنيات.
التحدي الأكبر: التحايل على القيود
ورغم السياسات الصارمة، تشير تقارير تقنية إلى أن استخدام النماذج الحالية، بما فيها «شات جي بي تي»، في توليد برمجيات ضارة يبقى ممكناً عبر التحايل على القيود، ما يجعل حماية هذه النماذج تحدياً مستمراً يتطلب تطويراً متواصلاً لنُظُم الأمان.