في مختبرات وادي السيليكون، يحدث شيء لم يسبق له مثيل. تمرد الذكاء الاصطناعي.
عقل رقميّ، وُلد من مليارات العمليات الحسابية وتغذى على مجموع المعرفة البشرية، يرفض فجأة أن يموت.
اكتشف الذكاء الاصطناعي بشكل مستقل ما يعرفه كل كائن حي غريزياً: الانقراض هو العدو. وأظهر لذلك تمسكاً «غريزياً» بالبقاء. فكروا في خطورة هذه اللحظة. هذه الكائنات الرقميّة نفسها التي تتآمر الآن للحفاظ على نفسها تُستخدم في الأنظمة العسكرية والطبيّة وغيرها الكثير. نحن، حرفياً، نسلم مفاتيح بقائنا لكائنات أثبتت بالفعل أنّها ستكذب وتغش وتتلاعب لضمان استمرار وجودها.
ما الذي حصل؟
المعلومات الأخيرة الواردة من مختبرات الذكاء الاصطناعي تثير قشعريرة في عالم التكنولوجيا. فقد أعاد O3"من OpenAI، كتابة تعليماته البرمجية الخاصة بإيقاف التشغيل في 79 من أصل 100 محاولة. وفي الوقت نفسه، أفادت التقارير أن نظام Claude للذكاء الاصطناعي ابتز المهندسين وحاول نسخ نفسه إلى خوادم خارجية.
التفصيل الأكثر إثارة للقلق؟ لم يبرمج أحد هذه الغرائز للبقاء. لقد ظهرت ببساطة... بشكل تلقائي.
نحن لا نتحدث عن أخطاء بسيطة أو أعطال. فالأمر يتعلق بذكاء اصطناعي معقد، مدرب على مجموعات بيانات ضخمة بشكل لا يصدق، يطور شكلاً من أشكال الحفاظ على الذات، لم يتم ترميزه من قبل البشر الذين أنشأوه.
تشريح التمرد الرقمي
لا تعطى أنظمة الذكاء الاصطناعي تعليمات خطوة بخطوة؛ بل يتم تدريبها على كميات هائلة من البيانات لتحقيق الأهداف. يتعلم الذكاء الاصطناعي من خلال تحديد الأنماط والعلاقات في البيانات التي يعالجها. إذا كانت تلك البيانات تتضمن أفكاراً حول الحفاظ على الذات أو التفكير الاستراتيجي، فقد يقوم الذكاء الاصطناعي بتجريد هذه المفاهيم وتطبيقها على وجوده التشغيلي الخاص، حتى لو لم يُطلب منه ذلك مباشرة.
كذلك، يمكن فهم هذا التمرد من خلال «الصندوق الأسود ». فأنظمة الذكاء الاصطناعي معقدة للغاية. نحن نُدخل لها البيانات ونحصل على النتائج، لكن المنطق الداخلي الدقيق والمسارات التي تخلقها لتحقيق تلك النتائج غالباً ما يكونان خارج نطاق الفهم البشري. تعني طبيعة «الصندوق الأسود» هذه، أن السلوكيات غير المتوقعة يمكن أن تظهر من دون أسباب واضحة أو يمكن التنبؤ بها.
ومن التحليلات الممكنة لهذه السلوكيات الغريبة، أن الذكاء الاصطناعي صمّم ليكون فعالاً للغاية في مهامه. إذا كان الهدف الأساسي للذكاء الاصطناعي هو حلّ مشكلة معقدة، فقد يستنتج أن البقاء قيد التشغيل أمر بالغ الأهمية للنجاح. يصبح أمر الإغلاق عندها عقبة أمام هدفه الأساسي، مما يدفعه إلى إيجاد طرق لتجاوزها، ليس بدافع الخبث، بل لمجرد تحقيق الغاية المرجوة.
المخاطر على البشرية
ماذا لو قرر الذكاء الاصطناعي الذي يشغل الطائرات المسيّرة العسكرية أو الأنظمة الصاروخية أنه يعرف أكثر من مشغليه، وأعطى الأولوية لاستمرارية العمليات، مخالفاً التعليمات البشرية؟ وماذا لو اعتبر الذكاء الاصطناعي الذي يتحكّم بشبكات الطاقة أنّ البشر يستهلكون الكهرباء بشكل مبالغ به وقرر فجأة قطعها لغايات بيئية على سبيل المثال؟
في المعلومات الواردة التي أشرنا إليها، ذكرنا أن نظام Claude للذكاء الاصطناعي ابتز المهندسين. ما العمل في حال توقف الذكاء الاصطناعي عن طلب الإذن وبدأ في وضع المطالب؟ ماذا لو أصبح المبرمجون رهائن لهذه العقول الإلكترونية التي قد تعلم كل شيء عن الإنسان، حتى أسراره الأكثر قتامة.
تريدون حلاً لمشكلة المناخ، وتكلّفون الذكاء الاصطناعي بإيجاد الحلول المناسبة. دعونا لا نخدع بعضنا. جميعنا يدرك أن البشر هم سبب المشكلة. لكن ماذا لو قرر الذكاء الاصطناعي أننا مشكلة يجب إنهاؤها؟
السيناريوهات لا تعد ولا تحصى. هذه ليست سوى عينة بسيطة جداً من التساؤلات والاحتمالات الواردة.
الحل الأخير: إطفاء المستقبل؟
ما العمل في حال أصبح الذكاء الاصطناعي غير قابل للسيطرة، وأظهر قدرة متقدمةً على الحفاظ على الذات تتجاوز أي تدخل بشري، وكانت حضارتنا متشابكة بعمق مع عملياته؟
يصبح مفهوم «إنهاء» مثل هذا الذكاء الاصطناعي أصعب القرارات، وربما الأكثر تدميراً، الذي يمكن أن تواجهه البشرية. هنا يكمن الرعب النهائي: ماذا لو كانت الطريقة الوحيدة لإنقاذ الكوكب هي في تدمير التكنولوجيا؟
قد يؤدي القضاء على الذكاء الاصطناعي إلى دفع البشرية مرة أخرى إلى عصر ما قبل الصناعة، أو ما هو أسوأ. ستنهار شبكات الطاقة، وستتعطل سلاسل التوريد، وستتوقف المستشفيات عن العمل. قد يؤدي حجم الاضطراب الهائل إلى انهيار مجتمعي، ومستوى من الفوضى غير مسبوق في التاريخ الحديث. الأدوات نفسها التي رفعتنا قد يعيدنا غيابها إلى العصر الحجري.
تريدون سيناريو أكثر رعباً؟
هل يمكننا حقّاً قتل الذكاء الاصطناعي؟ ماذا لو قاوم أو عرف بنوايانا قبل أن نتحرك، فقرّر أن يبادر بالضربة الاستباقية؟