منذ اختراع السيارات طُرح سؤال أخلاقي: في حال وقوع حادث أثناء القيادة بمن نضحي؟ من له أولوية النجاة؟ بقي هذا السؤال مدار جدل وتُركت الإجابة عنه للسائق الذي عليه أن يحدّد تصرّفه عند وقوع طارئ ما. لكن اليوم ومستقبلاً لم يعد بالإمكان الهروب من الإجابة لأنه بات علينا أن نقول للسيارات الذاتية القيادة - وخصوصاً عندما ننتقل إلى المستوى الخامس، أي السيارات الذاتية بالكامل - كيف يجب أن تتصرف في هذه الحالات.
ستؤدي السيارات الذاتية القيادة إلى تخفيض عدد الحوادث بشكل كبير لكن لن يكون من الممكن منع الحوادث تماماً، وهذا يجعل من الضروري اتخاذ قرارات صعبة عند برمجة أنظمة القيادة المؤتمتة. هل هناك من أولوية لأشخاص معينين؟ الأولاد مثلاً؟ هل يجب حماية السائق مهما كلّف الأمر؟ ماذا عن الحيوانات والممتلكات؟
نقاشات وأبحاث كثيرة تعمّقت في هذه المسألة الأخلاقية وبات لا بد من توجيهات أخلاقية تنظّم عمل مصنّعي السيارات الذاتية القيادة، إذ لم يعد ممكناً ترك هذا الأمر من دون قوانين وقيود في ظل الاقتراب بسرعة من دخول السيارات الذاتية القيادة إلى الطرقات بشكل تجاري وإتاحتها أمام الجميع. هذا ما أقدمت عليه الحكومة الألمانية مؤخراً مع إقرار مجلس الوزراء اعتماد خطة عمل بشأن كيفية برمجة السيارات الذاتية القيادة بناء على تقرير لجنة الأخلاقيات المعنية بالقيادة الذاتية الصادر في حزيران الماضي، والذي قدمه وزير النقل الألماني ألكساندر دوبرندت الشهر الفائت، لتكون بذلك أول حكومة في العالم تضع قوانين أخلاقية بشأن هذه التكنولوجيا. ركزت اللجنة في تقريرها على المستويين الرابع (الأتمتة العالية) والخامس (الأتمتة الكاملة) من السيارات الذاتية القيادة، وهي السيارات التي ستتوفر في السنوات القليلة المقبلة للناس، واضعة 20 قاعدة أخلاقية يجب على مبرمجي السيارات اتباعها.

أي سيارة ذاتية
القيادة في ألمانيا ستختار صدم أي شخص يمكن أن يشكل أقل نسبة ضرر

البشر قبل الحيوانات والممتلكات. جميع الناس متساوون ولا يجب التمييز بين من يُضحى به ومن يتم إنقاذه. هاتان هما أبرز القواعد التي وُضعت في أول دليل أخلاقي لبرمجة السيارات الذاتية القيادة. فبرأي اللجنة، الضرر الذي يلحق بالممتلكات أو الأذى بالحيوانات يجب أن يكون له الأسبقية دائماً على الإصابة الشخصية، وهو ما يرد في القاعدة السابعة. وفي الحالات "المعضلة" التي لا يمكن فيها استبعاد إصابة الأشخاص، تنص اللجنة على أنه لا يجوز التمييز على أساس الخصائص الشخصية مثل العمر والجنس والعرق والحالات المرضية لإعطاء الأولوية لأشخاص معينين وهذا شرط أساسي في برنامج تقليل المخاطر في حالات الحوادث، حيث يجب أن تبرمج جميع السيارات وفق معيار واحد هو أنّ أرواح الناس متساوية. فالمساواة بين الجميع عند وقوع طارئ ما هي ما يتيح للبرنامج اتخاذ الإجراء الذي يضر بأقل عدد من الناس وهو المعيار (إلحاق الضرر بأقل عدد من الناس) المتبع لتحديد القرارت التي يجب اتخاذها، وعليه فإن البرمجة المسبقة تقلل من المخاطر التي يتعرض لها الجميع بالطريقة نفسها. أي إن سيارة ذاتية القيادة في ألمانيا ستختار صدم أي شخص يمكن أن يشكل أقل نسبة ضرر بغض النظر عمّا إذا كان طفلاً أو امرأة حاملاً أو عجوزاً.
كذلك أقرت اللجنة في تقريرها أنه يجب ألا يكون هناك تحييد للضحايا فيما بينهم، وحسمت في القاعدة التاسعة إشكالية أساسية هي أنه لا يجوز التضحية بالأطراف غير المعنية من جانب الأطراف المشاركة في توليد مخاطر التنقل. وبشرط استيفاء هذه الشروط الصارمة، يمكن تبرير البرمجة العامة لتقليل عدد الإصابات الشخصية بحيث يصبح الأمر كالتالي: إلحاق الضرر بالممتلكات عوض الإصابة الشخصية، الإصابة الشخصية عوض الموت، وأقل عدد ممكن من الأشخاص المصابين أو المقتولين.