حظر الأسلحة المستقلة: أمر غير عملي وغير فعال

لطالما تفوقت أجهزة الكمبيوتر على البشر في القيام بوظائف معينة يُنظر إليها على أنها تتطلب قدراً من "الذكاء". أحد الأمثلة الشهيرة على ذلك هى آلة "بومبا" التي تم تطويرها خلال الحرب العالمية الثانية في حديقة بلتشلي، والتي مكّنت المملكة المتحدة من فك رسائل مشفرة بواسطة آلات "إنيجما" التابعة للجيش الألماني. وفي عام 1997، فاز حاسوب "ديب بلو" الذي أنتجته شركة "آي.بي.إم" على بطل العالم في الشطرنج جاري كاسباروف في مباراة مكونة من ستة أدوار. وفي عام 2011، ظهر حاسوب "واتسون" الذي أنتجته شركة "آي بي إم"— والذي "يستخدم معالجة اللغة الطبيعية والتعلم الآلي للكشف عن معلومات من بين كميات كبيرة من البيانات غير المنظمة"— على شاشة التلفزيون في برنامج المسابقات "Jeopardy " حيث تغلب على فائزين سابقين بجائزة البرنامج. لذا، أرفض ما اقترحته زميلتي هيذر روف في مقالتها الثانية بأنني قد ناقضت نفسي عندما قلت، من جهة، إنه يستحيل على الأرجح أن يصل الذكاء الاصطناعي إلى مستوى الذكاء البشري؛ ومن جهة إخرى إنه قد تقوم الأسلحة المستقلة في المستقبل بتنفيذ بعض المهام العسكرية بشكل أفضل من المقاتلين البشريين. فمن وجهة نظري، لا يوجد تناقض بين الأمرين .

وفي سياق مماثل، رفضت روف الحجة التي كتبتها مونيكا تشانسوريا، المشاركة الثالثة في هذه المائدة المستديرة، بأن الأسلحة المستقلة قد تصبح مفيدة في مكافحة الإرهاب. حيث ترى روف أن الآلات لن تكون قادرة على التمييز بين الإرهابيين والمدنيين لأنّ هذه القدرة تتطلب "ذكاء اصطناعي متطور للغاية يفوق الذكاء البشري في القدرة على القيام بتمييز معين". غير أن بعض النتائج تدل على أن اللوغاريتمات الحديثة للتعرف على الوجوه يمكنها أن تتفوق على البشر في مطابقة الأوجه. في الحقيقة، عندما يتعلق الأمر بالقدرات التي من شأنها أن تتيح للأسلحة المستقلة مكافحة الإرهاب بشكل فعال، تصبح قدرة التعرف على الوجوه بدقة بالغة في ظل ظروف مراقبة متفاوتة هى القدرة الرئيسية. وبدون شك، تواجه الآن اللوغاريتمات التي تشكل الأساس للدقة الآلية عددا من القيود، مثل عدم القدرة على تفسير الأوضاع المتغيرة بسرعة. لكني لا أرى سببا يمنع من التغلب على هذه العقبات في المستقبل (حتى لو أسفر الأمر في النهاية عن إمكانية استخدام هذه الدقة الآلية بشكل أفضل في أنظمة المراقبة بدلا من الأسلحة الآلية).  

إن المشكلة الحقيقية في نشر أنظمة أسلحة مستقلة فتاكة لمكافحة الإرهاب تكمن في أن قتل إرهابيين مشتبه بهم— بجانب حرمانهم من الحق في المثول أمام محاكمة عادلة— سيكون بمثابة اغتيال من قبل الدولة. وعلى أي حال فإن مفهوم "الإرهاب" مشحون أيديولوجيا. على سبيل المثال، كان يمكن أن تُفسر حركات الاستقلال في الأمريكتين خلال القرنين الـ18 والـ19 على أنها حركات إرهابية في العواصم الأوروبية آنذاك.

مهمة دقيقة. تجادل روف لصالح فرض حظر على الأسلحة المستقلة الفتاكة. وكوني أحد دعاة السلام، أوافق على أن فرض حظر تام هو أفضل نهج، وذلك من الناحية المثالية. لكن معظم نظم التشغيل الآلي قد تم دمجها بالفعل في تصميم الأسلحة مما يجعل حظر الأسلحة المستقلة الفتاكة يبدو أقرب إلى وقف تطوير الحرب نفسها— وهو أمر مستحيل عمليا. وحتى لو تم فرض حظر، فمن المرجح أن يكون غير فعال (وربما وُصف بأنه ساذج). ولنفترض أنه تم تنفيذ حظر في ظل ظروف مماثلة لتلك التي وُصفت في الرسالة المفتوحة عن الأسلحة المستقلة التى أرسلها العام الماضي باحثون في مجال الذكاء الاصطناعي والروبوتات، حينها سوف يتم حظر تطوير الأسلحة الفتاكة المستقلة ذاتيا بالكامل— لكن لن يتم حظر الآلات القاتلة التي يتم التحكم فيها عن بعد وصواريخ كروز وغيرها من الأسلحة ذات مستويات مختلفة من التشغيل الآلي. في هذه الحالة، كيف يمكن للمجتمع الدولي أن يكون متيقنا من أن الأسلحة التي يُتحكم فيها عن بعد والمستخدمة في صراع ما لا يتم التحكم فيها بشكل كامل بواسطة آلة اصطناعية؟ إذ ليس من الضروري أن تتغير واجهة السلاح وفقا للمتحكم فيه سواء كان إنسانا أو آلة اصطناعية. ويمكن للبشر مراقبة حركات السلاح في كلتا الحالتين. لكن قد يتخذ الإنسان قرارات الاستهداف في إحدى الحالات، بينما يقوم الذكاء الاصطناعي بفعل ذلك في حالة أخرى.

هذا هو أحد الأسباب التي تجعلني أفضل وضع قانون تنظيمي قوي للأسلحة المستقلة بدلا من فرض حظر تام على تلك التقنية. إن القانون التنظيمي سوف يوفر الأدوات اللازمة لتحليل وفهم زيادة نظم التشغيل الآلي في الحروب. وسوف يتضمن ذلك فرض قيود على تطوير واستخدام الأسلحة المستقلة. كما سيقوم بتوجيه ضربة ضد القتل الآلي ​​والاغتيالات التي ترعاها الدولة.

إذا كان القانون التنظيمي هو المسار الصحيح، إذن تصبح المسألة هى كيف نقوم بتغيير القانون الإنساني الدولي وقانون حقوق الإنسان، وهى قوانين تحكم حاليا البشر فقط، حتى يمكنها التعامل مع نظم التشغيل الآلي في الحروب. لا شك أن هذه المهمة ستكون دقيقة للغاية، ولن تكون سهلة. غير أن المصنفات التي يمكن أن تستند عليها المناقشات موجودة بالفعل. لقد حان الوقت للبدء في هذا المشروع— بدلا من السعي وراء حظر قد لا يتم فرضه أبدا وإذا تم فرضه فلن يكون فعالا.