تمييز الأسلحة المستقلة عن الأسلحة الآلية

جادل زميلاى في هذه المائدة المستديرة، باولو سانتوس ومونيكا تشانسوريا، لصالح تنظيم الأسلحة المستقلة بدلا من حظرها. لكنهما لم يحددا بالضبط ما هى الأسلحة التي سيتم تنظيمها. وهذا إغفالٌ مثير للازعاج— إذ ينبغي على أي شخص يجادل لصالح تنظيم الأسلحة أو استعمالها أن يكون لديه فكرة واضحة تماما عما ينطوي عليه هذا التنظيم.

الأسلحة المستقلة، وفقا لوزارة الدفاع الأمريكية، هي الأسلحة التي تختار هدفا وتطلق عليه النار دون تدخل عامل بشري. لكن ما الذي تعنيه كلمة "تختار" بالضبط؟ وماذا تعني كلمة "تدخل؟" هذه الأسئلة دقيقة بصورة أكبر مما تبدو عليه في الظاهر.

قد تعني كلمة "تختار" مسح مكان معين بحثا عن جهاز استشعار— على سبيل المثال، اشارات لرادار أو صورة لوجه إنسان. لكن في هذه الحالة فإن السلاح لا يختار الهدف، بل يتعقب هدفا تم تحديده مسبقا. فالإنسان هو الذي اختار الهدف في الواقع، إما عن طريق برمجة معالم الهدف أو تحديد الهدف ذاته أو المنطقة المستهدفة. فالأسلحة من هذه النوعية ليست أسلحة مستقلة في الحقيقة، بل هى أسلحة آلية.

من جانب آخر، يمكن أن تشير كلمة "تختار" إلى مجرد استشعار الهدف. لكن الجيوش الحديثة سوف تجد مثل هذا التفسير إشكاليا. فالعديد من أنظمة الأسلحة الحالية— صواريخ كروز والأنظمة المضادة للصواريخ وصواريخ الهاون والطوربيدات والألغام البحرية— تستشعر الأهداف وتطلق عليها النار. كما أنه من المستبعد للغاية أن تقوم أي دولة بتصنيف هذه الأنظمة على أنها أسلحة مستقلة.

إذن فما الذي يميز الأسلحة المستقلة عن الأسلحة الآلية— ومن ثمّ يتم إخضاعها للتنظيم أو الحظر؟ سوف أجيب على هذا السؤال من خلال التمييز بين الأسلحة الآلية المتطورة وبين أنظمة الأسلحة المستقلة محدودة التعلم.

الأسلحة الآلية المتطورة غير قادرة على التعلم أو على تغيير أهدافها. ولكن نظرا لقدرتها على التحرك، وفي بعض الحالات قدرتها الملاحية المستقلة، تكون قادرة على أن تدمر السكان المدنيين. وعلاوة على ذلك، فإنه لا يمكنها الالتزام بمبادئ الضرورة والاحتياطات والتناسب. ولذلك، فإنها على الأرجح سوف تُستخدم كأسلحة مضادة للمعدات، ولن تُستخدم كأسلحة مضادة للأفراد.

وفي الوقت نفسه، فإن الأسلحة محدودة التعلم قادرة على التعلم وعلى تغيير أهدافها الفرعية حين يتم نشرها. إنها تختار بالفعل هدفها من بين مجموعة من الأشياء أو الأشخاص. وباختصار، فإنها تتعقب أهدافا عسكرية— مثلما يقرر الجنود ما اذا كانوا سيطلقون النار على شخص أو مركبة أو مبنى أو ما هى أفضل السبل للـ"صعود إلى تل". هذه فعلا هى أنظمة الأسلحة المستقلة. (وبالمناسبة، لم تعلن أي دولة تأييدها لاستخدام الاسلحة المستقلة ضد الأفراد. حتى الدول التي تعارض فرض حظر على استخدام الأسلحة المستقلة أو تعارض تنظيمها تؤكد على أن أنظمة الأسلحة المستقلة يمكن أن تستخدم فقط في "الحالات المناسبة من الناحية العملية" في " بيئات غير مزدحمة". لذا، فإن اقتراح تشانسوريا بأن الأسلحة المستقلة يمكن أن تستخدم في عمليات مكافحة الإرهاب ليس له ما يدعمه في الدوائر الدبلوماسية أو العسكرية).

أشار زميلاى أيضا إلى أنني أنكرت إمكانية أن يتفوق الذكاء الاصطناعي على بعض القدرات البشرية، أو أنني أنكرت أن يكون الذكاء الاصطناعي ملائما للقيام بمهام معينة بشكل أكبر من البشر. لكنني لا أنكر أي شيء من ذلك— وهذا هو بالضبط سبب تخوفي من المخاطر التي يمكن أن تشكلها الأسلحة محدودة التعلم إذا ما طُورت واستُعملت في ساحة المعركة. هذه المخاطر— والتي تشمل تغيير ملامح الحرب وأيضا ملامح السلامة المدنية والحرية في وقت السلم— هى مخاطر عظيمة ولذلك يجب فرض حظر تام على الأسلحة التي تشكل مثل تلك المخاطر. وقبل أن يُشيد أي شخص، مثلما أشادت تشانسوريا، بأسلحة مستقبلية قادرة على إصدار "أحكام نوعية"، فمن الأفضل أن نتذكر أنه لا يمكن أن تظهر "الأحكام النوعية" إلا بعد أن تكون التقنيات المستقلة قد اجتازت بصعوبة بالغة نقطة وسط تجمع بين ذكاء "محدود" وقدر قليل من إصدار الأحكام.

أسئلة صعبة. إذن ما الذي ينبغي القيام به، بطريقة عملية، تجاه أنظمة الأسلحة الواردة في هذه المائدة المستديرة؟
 
عندما يتعلق الأمر بالأسلحة الآلية المتطورة، يتعين على الحكومات التفكير مليا حول ما إذا كان ينبغي نشر هذه الأسلحة في بيئات معقدة. وينبغي على الدول أن تضع لوائح بشأن الكيفية التي يمكن أن تُستخدم بها. لكن يجب أن يتم حظر الأنظمة المستقلة بالفعل— سواء كانت أسلحة محدودة التعلم أو حتى أسلحة أكثر تطورا. إن استخدام هذه الأسلحة سوف يحمل مخاطر هائلة للمدنيين، وقد يصعد الصراعات، ومن المرجح أن يتسبب في إحداث سباق تسلح في الذكاء الاصطناعي، وقد يخلق حاجة إلى شبكات استشعار في جميع ساحات المعارك (والمدن). وفي الواقع، فإن أنظمة المراقبة المنتشرة وحدها تسبب مخاوف تكفي لتبرير فرض حظر على الاسلحة المستقلة.

كما إنه من غير المقنع الادعاء بأنه من غير المرجح، كما ادعى زميلاى، أن يتم فرض حظر على الأسلحة المستقلة أو أن مثل هذا الحظر سيكون غير عملي إذا تم فرضه. هناك تقنيات أخرى تم منعها قبل أن يتم استخدامها، مثل أشعة الليزر المسببة للعمى— فلم لا يكون الحال كذلك بالنسبة للأسلحة المستقلة؟ ومثلما تم حظر الأسلحة الكيميائية بدعم من علماء العالم والصناعات الكيميائية، فيمكن أن تُعالج التحديات التي تشكلها الأسلحة المستقلة من خلال التعاون بين العلماء والمتخصصين في علم الروبوتات والصناعة الخاصة بهذه التقنية.وعلاوة على ذلك، فإن بعض الجيوش لديها بالفعل القدرة على إدماج لوغاريتمات محدودة التعلم في أسلحتها، لكنها لم تنتشر هذه القدرات بسبب عدم التيقن والمخاطرة. فإذا كانت الجيوش تظهر ضبطا للنفس، فلماذا لا يتم الضغط عليها لرفض الأسلحة المستقلة تماما؟

إن الأسلحة المستقلة تنطوي على أسئلة صعبة وتحديات خطيرة، وقد حان الوقت لمعالجتها جميعا. لكن اقتراح أفكار مفرطة في التفاؤل حول طبيعة الصراع في المستقبل لن يحقق شيئا في هذا الصدد.