الأسلحة المستقلة والسلامة المدنية: التنظيم مقابل الحظر

أسلحة تصطاد في جماعات وأخرى على شبكات الحاسوب تقوم بدوريات. هى في البر والبحر والجو والفضاء—منتشرةً في كل مكان. الأسلحة المستقلة المنشورة تبدو بلا شك مشؤومة. لكن بشكل عام، هل ستعزز تلك الأسلحة من السلامة المدنية أم ستنتقص منها؟

تتطلب الإجابة عن هذا السؤال فهما واضحا لمصطلح "السلامة المدنية". فلو كانت تعني حماية أرواح المدنيين أثناء النزاعات المسلحة، فإذن نعم، قد تساهم الأسلحة المستقلة بشكل جيد في تحقيق هذه الغاية في يوم ما. لكن تكنولوجيا اليوم ليست قوية بما فيه الكفاية لتجعل الأسلحة المستقلة تميِّز بين المقاتلين وغير المقاتلين، ولا سيما أثناء حركات التمرد أو الحروب الأهلية. فأفضل ما يمكن أن تحققه التكنولوجيا الحالية هو التعرّف على اشارات الرادار أوالاشارات الحرارية أوالأشكال— أو، في حالة الأشخاص، التعرف على أجهزة الاستشعار المدمجة في الأزياء الموحدة. لكن هذا لا يساعد إلا في تحديد مقاتلي الصف الواحد، وهو أمر لا يزيد بأي حال من السلامة المدنية.

بمرور الوقت، قد تصبح تكنولوجيا الأسلحة المستقلة— نتيجة لتطور تقنية التعرف على الوجه والتعرف على الاشارات والقياسات الحيوية، وما إلى ذلك— أكثر قدرة على تحديد الأهداف المشروعة. لكن هذه التطورات لن تضمن عدم استهداف المدنيين. كما أنها لن تحول دون ظهور تهديدات أخرى لسلامة المدنيين. على سبيل المثال، من أجل مواجهة تهديدات محتملة، قد تقوم الأسلحة المستقلة في يوم من الأيام بمراقبة مستمرة للسكان، وهو أمر يشبه إلى حد ما نظام "جورجون ستير" وهو نظام مراقبة جوي تستخدمه حاليا الولايات المتحدة. في حالة استخدام تكنولوجيا مماثلة في الأسلحة المستقلة، سوف تواجه المجتمعات مجموعة من المشاكل التي لا تتعلق مباشرة بالنزاع المسلح ولكنها تتعلق بالسلامة المدنية.

إذن، يتجاوز مصطلح "السلامة المدنية" إدارة الأعمال العدائية— ويتجاوز نطاق القانون الإنساني الدولي. أي أن السلامة المدنية هى مصدر قلق في زمن الحرب وزمن السلم على حد سواء. في زمن السلم، يُطبق نوع آخر من القانون— القانون الدولي لحقوق الإنسان، وهو عبارة عن مجموعة أوسع نطاقا من المعاهدات والمبادئ والقوانين والالتزامات الوطنية بشأن "الحقوق المدنية والسياسية والاقتصادية والاجتماعية والثقافية التي يجب أن يتمتع بها جميع البشر".

ولكي تكون الأسلحة المستقلة منسجمة مع القانون الدولي لحقوق الإنسان، فيجب أن تتوافق على الأقل مع جميع معاهدات حقوق الإنسان الدولية والإقليمية والثنائية، وكذلك مع ما يقابلها من التشريعات المحلية. وفي الواقع، قد يكون من الضروري للأسلحة المستقلة أن تعزز حقوق الإنسان. لذا، لا يكفي أن تسأل دولة عمّا إذا كانت الأسلحة المستقلة سوف تحمي المدنيين في دولة أخرى مشتبكة معها في عمليات عسكرية؛ بل يجب أن تلتزم الأسلحة المستقلة أيضا بقوانين دولتها. وبشكل أكثر دقّة، يجب أن تحظى الأسلحة المستقلة بالقبول القانوني في الأوضاع غير المستقرة بين قوانين الحرب وقوانين السلام.

كل هذا يشكل سقفا عاليا جدا للأسلحة المستقلة. لرؤية هذا بوضوح، علينا دراسة كيف يمكن أن تنتهك الأسلحة المستقلة الاتفاقية الأوروبية لحقوق الإنسان على سبيل المثال. إذا تم نشر أسلحة مستقلة داخل أوروبا، وكانت تُستخدم للمراقبة في كل مكان، في عمليات مكافحة الإرهاب مثلا، قد تفشل تلك الأسلحة في احترام الحق في الحياة الخاصة والعائلية، وهو حق مكفول بموجب المادة 8 من الاتفاقية. ولأن هذه الأسلحة قد تكون متصلة بالانترنت بدلا من كونها روبوتات، يمكن أن يكون لها أيضا آثار سلبية على حرية الفكر والضمير والدين (المكفولة بموجب المادة 9). ويمكن أن تتعدى الأسلحة المستقلة المتصلة بالانترنت على حرية التعبير (المادة 10) إذا قامت بمنع الحوار أو التعبير عن الرأي عبر الإنترنت.

إن أخطر تهديد تشكله الأسلحة المستقلة هو بالطبع تهديد للحق في الحياة. ويمكن للمرء أن يفترض أن "السلامة المدنية" تعني الحق في الحياة، بدلا من الحق في الحياة الخاصة والعائلية مثلا. ولكن الحق في الحياة—المكفول ليس فقط بموجب المادة 2 من الاتفاقية ولكن أيضا بموجب صكوك دولية هامة أخرى—ليس مطلقا. إذ يعتمد الحق في الحياة إلى حد كبير على تراخيص قانونية فيما يتعلق باستخدام القوة المميتة.

ومع ذلك، تختلف هذه التراخيص القانونية تبعا لما إذا كان المرء في حالة حرب أو في حالة سلم. في حالات زمن السلم (أو "إنفاذ القانون")، يتطلب استخدام القوة المميتة خطرا وشيكا على المارّة أو الضباط. أما خلال الحرب، فتكون عتبة استخدام القوة المميتة أقل من ذلك بكثير. ويوحي تطبيق هذه الفروق على الأسلحة المستقلة بأنه إذا تم تحديد فرد باعتباره تهديدا محتملا أو حقيقيا، يجب على الاسلحة المستقلة محاولة إلقاء القبض عليه (إذا لم يكن التهديد مميتا ووشيكا على المارة؛ فلن يكون هناك أي خطر بالنسبة للآلات). وإذا كان النظام غير قادر على الاعتقال—لأنه نظام جوي مثلا — ستبدوا الخيارات محدودة على إما القتل أو عدم القتل. لكن قتل أحد الأشخاص في مثل هذه الظروف سيكون بمثابة انتهاك تلقائي للحق في الحياة. علاوة على ذلك، سيكون هذا الفعل تعديا على الحق في المثول أمام محاكمة عادلة. وإنكار الحق في محاكمة يقوض سيادة القانون، الذي يعد في حد ذاته أهم قوة لحفظ السلامة المدنية وحمايتها.

خطر على الجميع. علاوة على جميع ما تقدم، ستكون السلامة المدنية وبالتالي الحق في الحياة مهددان من خلال سباق تسلح محتمل في الأسلحة المستقلة والذكاء الاصطناعي. سوف يعرض مثل هذا السباق المدنيين في جميع أنحاء العالم لمخاطر وجودية محتملة لا مبرر لها. وإذا طُورت الاسلحة المستقلة وتم نشرها، فسيكون لها في النهاية مكان في كل نطاق— الجو والفضاء والبحر والبر والإنترنت. وسوف تصطاد في جماعات. وسيتم ربطهما في شبكة أنظمة الأسلحة المستقلة بدون قيادة بشرية. وسوف تنظم دوريات على شبكات الحاسوب. وسوف تكون في كل مكان. فمن الصلف إذن، أن نفترض أن دولة واحدة فقط سوف تسعى لتطوير تلك الأسلحة.

سوف تخلص عديد من الدول إلى أن دفاعاتها تتطلب، وبسرعة متزايدة من أي وقت مضى، أن يتم تطويرها بذكاء اصطناعي ذي قوة متزايدة وبأسلحة ذات قدر أكبر من الاستقلالية. لكن الأنظمة المستقلة القادرة على التعلم يمكنها بسرعة الخروج عن سيطرة مخترعيها. وستكون خطرا على أي شخص يكون في متناولها. كما أن الأسلحة المستقلة المتصلة مع بعضها البعض عبر الشبكات، أو وكلاء مستقلين ذوي ذكاء اصطناعي ومتصلين بالإنترنت، لن تقتصر على إقليم جغرافي واحد أو على دول مشاركة في نزاع مسلح. إن الآثار غير المقصودة لابتكار ونشر أنظمة مستقلة قد تكون شديدة للغاية بحيث تجعل المخاطر المرتبطة باستخدامها تفوق أي فوائد محتملة.

إذن هل فرض حظر تام هو الاستجابة المناسبة لتطوير أسلحة مستقلة، أم فرض قانون تنظيمي دولي فعال هو النهج الملائم؟ لقد جادلت في الماضي بحظر الأسلحة المستقلة— إذ أن مخاطر عدم حظرها مرتفعة للغاية. لكن سواء تم فرض حظر أو لم يتم، فالمطلوب هو إيجاد تشريع دولي فعال. إن العديد من تقنيات المعلومات والاتصالات هى ذات استخدام مزدوج— وهذا يعني أنه يمكن استعمالها في أغراض عسكرية وغير عسكرية. كما يمكن للذكاء الاصطناعي أن يفيد المجتمعات، فلا ينبغي رفض هذه المنافع بسبب الأضرار الأخرى. لذلك، يجب على الدول العمل معا، بمساعدة خبراء ومنظمات غير حكومية، لخلق نهج عملي قابل للتنفيذ لتقنيات مستقلة ذاتيا في مجال الروبوتات والأمن السيبراني— نهج يمنع التسليح لكنه يسمح بالاستخدامات المفيدة. لذا فليست المسألة تكمن في حظر الأسلحة المستقلة أو تنظيمها. بل تكمن حقا في الطريقة المثلى للقيام بكلا الأمرين على حد سواء.

الأسلحة المستقلة القادرة على اختيار ومهاجمة أهداف دون تدخل بشري هي حقيقة واقعة بالفعل. لكنها اليوم تقتصر إلى حد كبير على استهداف أهداف عسكرية في مناطق غير مأهولة—إلا أن أنظمة الكمبيوتر التي تتطور بسرعة بجانب قدرة المعالجة الهائلة واللوغاريتمات القوية للذكاء الاصطناعي قد تُمكِّن الدول في القريب العاجل من اتخاذ خيارات واقعية بشأن نشر أسلحة مستقلة بالكامل في حروب المدن.

لكن هل ستقلل الحرب الآلية من الأضرار الجانبية، كما يدعي بعض المراقبين— أم سوف تتسبب في دمار شامل؟ الإجابة ليست واضحة. لكن الواضح هو أن قرارات الاستهداف التي يتخذها البشر غالبا ما تكون سيئة للغاية. ومما لا شك فيه أنه من المهم مناقشة أخلاقيات الأسلحة المستقلة والتباحث حول ما إذا كان ينبغي حظرها أو تنظيمها أو تركها تتطور دون قيود. لكن القتل الآلي بكافة أشكاله هو أساس القضية هنا.

الاختيار الأمثل للضحايا. بداية ما المقصود بـ"الأسلحة المستقلة" على أية حال؟ فهذا مصطلح غير واضح المعالم. فصواريخ كروز والطائرات بدون طيار الموجهه من بعد هى إلى حد ما أسلحة مستقلة، وقد تم نشرها على نطاق واسع في ساحة المعركة. لكن عندما يتحدث الناس عن الأسلحة المستقلة، فهم بوجه عام يقصدون أسلحة ذات قدرات متطورة في مجال الذكاء الاصطناعي والروبوتات والتحكم الآلي، يمكنها تحديد أهداف معينة واتخاذ قرار بضربها أو عدم ضربها، بشكل مستقل عن التدخل البشري.

من المهم أيضا أن نفهم ما يعنيه "الذكاء الاصطناعي"— أو بالأحرى هنا، ما لا يعنيه هذا المصطلح. إن الذكاء الاصطناعي الذي تم تصويره في الأفلام والروايات الخيالية غالبا ما ينطوي على آلات تظهر قدرا من الذكاء البشري. لكن لا يوجد حاليا أي دليل علمي على إمكانية وجود شيء من هذا القبيل. بدلا من ذلك، يتعلق الذكاء الاصطناعي بتطوير لوغاريتمات حسابية مناسبة للمهام الاستنتاجية— المتمثلة في: حل المشكلات واتخاذ القرارات والتنبؤ والتشخيص، وما إلى ذلك. ويشمل الذكاء الاصطناعي أيضا تعميم أو تصنيف البيانات— وهو ما يعرف بالتعلم الآلي. ويمكن أن تشمل الأنظمة الذكية برامج الرؤية الحاسوبية التي تهدف في النهاية إلى تقديم تفسيرات ذات مغزى للصور. مثل هذه الوظائف لا تضيف الكثير من الإثارة لأفلام هوليوود، لكنها ذات أهمية كبيرة في تطوير الأسلحة المستقلة.

يجادل البعض بأن تطبيق الذكاء الاصطناعي في الحروب، ولا سيما باستخدام الأسلحة المستقلة، قد يتوخى الاختيار الأمثل للضحايا في ساحة المعركة. ويمكن لأنظمة الروبوتات الذكية، حسب هذا الرأي، تحديد الأهداف بدقة وكفاءة. كما يمكنها الانخراط في القتال بطريقة تقلل من الأضرار الجانبية إلى أدنى حد ممكن— وذلك بلا شك عند مقارنتها بالعديد من المهام التي نفذها البشر، مثل الهجوم الذي نفذته طائرات سلاح الجو الأمريكي يوم 3 أكتوبر على مستشفى تابع لمنظمة أطباء بلا حدود في أفغانستان. قد تقلل الأسلحة المستقلة من وقوع خسائر بين المدنيين الى الحد الادنى بينما تحسن من إمكانية تنفيذ مهام ناجحة.

غير أنه قد تم تنظيم حجج مماثلة لمعظم الابتكارات على مدار تاريخ الأسلحة، بداية من البارود وانتهاء بـ"الضربات الجراحية" في حرب العراق الأولى (والتي تم تصويرها بشكل مبهر للغاية على شاشات التلفاز). وحتى لو تمكنت أسلحة جديدة من تحقيق "الاختيار الأمثل" للقتل، فسوف تجعله آليا أيضا. لقد ظل الجنود يصوبون على أشخاص لعدة قرون. وحاليا هم يصوبون أحيانا على أهداف بطريقة تشبه ألعاب الفيديو. وربما لا يصوبون على الإطلاق في المستقبل، لأنهم سوف يتركون هذه المهمة للآلات. لكن الاختلافات، مثلا، بين نظام سلاح مستقل بالكامل وبين صواريخ كروز أو طائرات حربية بدون طيار موجهه عن بعد هي في الواقع اختلافات تقنية أكثر من كونها أخلاقية أو معنوية. إذا تقبّل المجتمع الحديث الحرب على أنها لعبة فيديو— كما تقبّل سابقا "الضربات الجراحية" في فترة التسعينات—فسوف يتم تقبّل الأسلحة المستقلة في الحروب.  

وقّع مؤخرا عدد من العلماء—من بينهم كاتب هذا المقال— على رسالة مفتوحة دعوا من خلالها إلى "فرض حظر على الأسلحة الهجومية المستقلة الخارجة عن السيطرة الفعلية للبشر". وبينما كنت أُعيد قراءة الرسالة، لاحظت مجددا أنها تقترح حظرا فقط على الأسلحة التي "تختار وتشتبك مع أهداف دون تدخل بشري"، في حين تستبعد "صواريخ كروز أو طائرات بدون طيار موجهة عن بعد والتي يتخذ البشر جميع قرارات الاستهداف الخاصة بها". تدل هذه الصيغة إلى حد ما على أن القتل العشوائي لأعداد كبيرة من الناس— سواء كانوا جنودا أو مدنيين، كبارا أو أطفالا— مسموح به طالما كان البشر هم من يتخذون قرارات الاستهداف. لكن بتفحص تاريخ البشرية، يصعب أن نستوعب أن التحكم البشري في الأسلحة يمكن أن يكون أفضل بكثير من تحكم الآلات المستقلة. ولنأخذ مثالا واحدا على ذلك من القرن العشرين— من بين خيارات عديدة للغاية— لم يمنع التحكم البشري القتل الجماعي لما يقدر بـ200 ألف من المدنيين في هيروشيما وناجازاكي في أغسطس من عام 1945(ورغم ذلك، ربما كان يمكن تجنب تلك الفظائع إذا تم وضع تطوير الأسلحة النووية واستخدامها في إطار تنظيم دولي فعال بمجرد أن أدرك العلماء أن صنع مثل هذه الأسلحة كان ممكنا).

لقد وقعتُ على الرسالة المفتوحة لأنني من دعاة السلام. وسأوقع على أي رسالة تقترح فرض حظر على تطوير الأسلحة وإنتاجها. ولكن لا أعتقد أن فرض حظر دولي شامل على الأسلحة المستقلة سوف يمنع تطويرها— لأن الأبحاث حول الأنظمة المتقدمة للروبوتيات الذكية القاتلة قد بدأت بالفعل منذ عقود. وبالمقارنة مع الأسلحة النووية والبيولوجية القابلة للاستخدام، والتي يتطلب تطويرها مختبرات متخصصة مكلفة للغاية والحصول على مواد سهلة التتبع، نجد أنه من السهل القيام بتصنيع أسلحة مستقلة. إذ يمكن لأي مختبر حالي للروبوتات الذكية، بتمويل متواضع وخلال أسابيع، القيام من نقطة الصفر بتصنيع روبوت متحرك قادر بشكل مستقل على تتبع وإطلاق النار على أي شيء يتحرك. قد يتعثر الروبوت عند مواجهته لأولى درجات السلم، لكنه رغم ذلك سيكون سلاحا مستقلا أساسيا.

لا توجد وسيلة عملية تضمن عدم القيام مطلقا بصنع أسلحة مستقلة. وفرض حظر على تطوير تلك الأسلحة سيكون بمثابة دعوة لإنشاء مختبرات سرية، مما يجعل من المستحيل السيطرة على تلك الأسلحة أو محاسبة الجهات التي طورتها. الوسيلة العملية هى التأكد— من خلال تنظيم دولي فعال—من أن تطوير الأسلحة المستقلة يتم تحليله وتعقبه على أساس كل حالة على حدة. ويجب أن تكون هناك قواعد صارمة تحكم أهداف الأسلحة المستقلة، كما يجب أن يكون نشر تلك الأسلحة متوافقا مع القانون الإنساني الدولي— وإذا ثبتت استحالة التوافق مع القانون، فلن يتم نشر الأسلحة في ميدان الصراع. وأخيرا، يجب وضع نظام لمحاسبة أي مؤسسة تفشل في الالتزام بالضوابط التي تحكم صنع الأسلحة المستقلة ونشرها.

عندما أصدر باحثون في مجال الذكاء الاصطناعي رسالة مفتوحة في شهر يوليو دعوا خلالها إلى فرض حظر على "الأسلحة الهجومية المستقلة الخارجة عن السيطرة الفعلية للبشر"، حددوا أن الحظر قد يشمل أسلحة من نوعية "طائرات مسلحة رباعية المراوح" قادرة على تحديد وقتل أشخاص "تنطبق عليها معايير معينة محددة مسبقا". لكن الحظر لم يشمل "صواريخ كروز أو طائرات بدون طيار موجهة عن بعد التي يتخذ البشر جميع قرارات الاستهداف الخاصة بها". لذا، فمن الجدير بالملاحظة أن الحظر المقترح لن يمنع عددا من الاسلحة المستقلة التي قد تم نشرها بالفعل—لأن هذه الأسلحة تم تصنيفها بأنها دفاعية.

وتشمل هذه الأسلحة نظام فالانكس الصاروخي التابع للبحرية الأمريكية—"وهو نظام سريع الإطلاق خاضع لتحكم الكمبيوتر وموجه بالرادار" وهو قيد الاستخدام منذ عام 1980، كما اعتمد الجيش الأمريكي مؤخرا نسخة من هذا النظام يتم إطلاقه من الأرض. ونظام الدفاع الألماني إن.بي.إس مانتيس المستقل ذاتيا بالكامل والذي يستطيع كشف القذائف وتتبعها والاشتباك معها وإطلاق النار عليها. ونظام الدفاع الصاروخي الاسرائيلي "القبة الحديدية" الذي يعمل بشكل مستقل، إلا في حال استشعر تهديدا، فإنه يطلب تدخلا بشريا لاتخاذ قرار سريع بشأن اطلاق النار أو عدم الإطلاق.

مثل هذه الأنظمة مقبولة عموما كأدوات مشروعة للحرب. لكن الأسلحة الهجومية المستقلة ذاتيا بالكامل هي مسألة مختلفة. فهى تطرح أسئلة صعبة حول ما إذا كان بإمكان هذه الأسلحة الالتزام بالواجب الأخلاقي لحماية أرواح المدنيين خلال الصراعات. وهناك أيضا واجب أخلاقي آخر يتم التغاضي عنه بسهولة في هذا النقاش: وهو حماية المدنيين المعرضين للخطر من قبل الجهات الفاعلة غير الحكومية التي ترتكب عمدا أعمال عنف جماعي وإرهاب ضد الأبرياء.

من وجهة نظري، أي اقتراح لحظر الأسلحة المستقلة الفتاكة يجب أن يأخذ في الاعتبار الحروب غير التقليدية وغير المتماثلة وغير النظامية التي تقوم بها الجهات الفاعلة غير الحكومية التي تتجاوز الحدود الوطنية—وآثار هذه الصراعات على المدنيين. تزدهر غالبا الجهات الفاعلة غير الحكومية على وجه التحديد بسبب عدم إمكانية تمييزها عن السكان المدنيين المحليين. وتزدهر أيضا من خلال الاستفادة من المناطق الوعرة مثل الجبال والصحاري، ومن خلال التسلل عبر الحدود التي يسهل اختراقها، ومن خلال الاعتماد على مساعدات دول أو جهات حكومية متواطئة. يمكن للجيوش التغلب أحيانا على المزايا التي تتمتع بها الجهات الفاعلة غير الحكومية، لا سيما من خلال الاستخدام الأمثل للتكنولوجيا بما في ذلك الطائرات بدون طيار (المدعومة باستخبارات جيدة). لكن الجيوش تجد إشكالية كبيرة أمام تحقيق النصر على الجهات الفاعلة غير الحكومية بالشكل التقليدي. وفي مقابل ذلك، تكافح الجيوش من أجل حماية المدنيين.

هل يمكن لأسلحة مستقلة بالكامل ذات قدرات متطورة للغاية القيام بتغيير هذه المعادلة؟ هل يمكنها، بدلا من تعريض المدنيين للخطر، إنقاذ حياة الرجال والنساء والأطفال الذين يقعون بدون ذنب في مناطق نزاعات عنيفة؟ إذا تمكنت الأسلحة المستقلة من أن تشل أهداف العدو مع تقليل الأضرار غير المرغوب فيها، فإنها تستحق أن يُنظر إليها بجدية كأسلحة يتم استخدامها في قتال جهات فاعلة غير حكومية وإرهابيين.

ليس هناك سلاح موجود حاليا يمكن وصفه بشكل صحيح بأنه سلاح هجومي مستقل قادر على قتل أهداف مشروعة بينما يتجنب قتل مدنيين. إن الذكاء الاصطناعي الحالي، والذي لا يمكنه استنساخ الذكاء البشري والقدرة على إصدار الحكم، يضع تحديات أساسية أمام سلامة المدنيين إذا تم نشره في ساحة المعركة. لكن من الأهمية بمكان أن نتذكر أن تكنولوجيا الأسلحة المستقلة هى حقل متطور. إن الأبحاث والتطورات المستقبلية قد تجعل من الممكن ترميز الآلات بقدرات للحكم النوعي والتي ليست ممكنة حاليا. التطورات التكنولوجية في المستقبل قد تسمح للأسلحة المستقلة بالتفوق على البشر في المواقف التي تحدث في ساحة المعركة.

في النهاية، أنا أفضل تنظيم استخدام الأسلحة المستقلة بدلا من فرض حظر شامل على هذه التكنولوجيا بأكملها. لكن فرض حظر شامل يبدو أمرا مستبعدا على أية حال. على سبيل المثال، أعلنت وزارة الخارجية البريطانية "نحن لا نرى أن هناك حاجة لفرض حظر" على الأسلحة المستقلة القاتلة لأن "القانون الإنساني الدولي يوفر بالفعل تنظيما كافيا في هذه الناحية". إن ما نحتاجه في رأيي هو إطار تنظيمي يحد من معدل الفتك لأنظمة الأسلحة المستقلة في المستقبل. كذلك نحتاج إلى البحث في الوسائل (برمجة مطورة، مثلا) التي من شأنها أن تحد بشكل كبير من وقوع ضحايا مدنيين بسبب أسلحة مستقلة.

أخيرا، يظل التناسب هو محور الاهتمام الأساسي، كما هو الحال بالنسبة للعديد من الجوانب الأخرى للصراعات أو الحروب المعاصرة. في الواقع، يهمني القول بأنه يمكن اعتبار الأسلحة الفتاكة المستقلة أسلحة أخلاقية طالما أن الأضرار الجانبية التي تسببها لا تتجاوز مساهماتها في السلام والأمن والاستقرار ومنع سفك دماء المدنيين على نطاق واسع.