حظر الأسلحة المستقلة وتنظيمها

أسلحة تصطاد في جماعات وأخرى على شبكات الحاسوب تقوم بدوريات. هى في البر والبحر والجو والفضاء—منتشرةً في كل مكان. الأسلحة المستقلة المنشورة تبدو بلا شك مشؤومة. لكن بشكل عام، هل ستعزز تلك الأسلحة من السلامة المدنية أم ستنتقص منها؟

تتطلب الإجابة عن هذا السؤال فهما واضحا لمصطلح "السلامة المدنية". فلو كانت تعني حماية أرواح المدنيين أثناء النزاعات المسلحة، فإذن نعم، قد تساهم الأسلحة المستقلة بشكل جيد في تحقيق هذه الغاية في يوم ما. لكن تكنولوجيا اليوم ليست قوية بما فيه الكفاية لتجعل الأسلحة المستقلة تميِّز بين المقاتلين وغير المقاتلين، ولا سيما أثناء حركات التمرد أو الحروب الأهلية. فأفضل ما يمكن أن تحققه التكنولوجيا الحالية هو التعرّف على اشارات الرادار أوالاشارات الحرارية أوالأشكال— أو، في حالة الأشخاص، التعرف على أجهزة الاستشعار المدمجة في الأزياء الموحدة. لكن هذا لا يساعد إلا في تحديد مقاتلي الصف الواحد، وهو أمر لا يزيد بأي حال من السلامة المدنية.

بمرور الوقت، قد تصبح تكنولوجيا الأسلحة المستقلة— نتيجة لتطور تقنية التعرف على الوجه والتعرف على الاشارات والقياسات الحيوية، وما إلى ذلك— أكثر قدرة على تحديد الأهداف المشروعة. لكن هذه التطورات لن تضمن عدم استهداف المدنيين. كما أنها لن تحول دون ظهور تهديدات أخرى لسلامة المدنيين. على سبيل المثال، من أجل مواجهة تهديدات محتملة، قد تقوم الأسلحة المستقلة في يوم من الأيام بمراقبة مستمرة للسكان، وهو أمر يشبه إلى حد ما نظام "جورجون ستير" وهو نظام مراقبة جوي تستخدمه حاليا الولايات المتحدة. في حالة استخدام تكنولوجيا مماثلة في الأسلحة المستقلة، سوف تواجه المجتمعات مجموعة من المشاكل التي لا تتعلق مباشرة بالنزاع المسلح ولكنها تتعلق بالسلامة المدنية.

إذن، يتجاوز مصطلح "السلامة المدنية" إدارة الأعمال العدائية— ويتجاوز نطاق القانون الإنساني الدولي. أي أن السلامة المدنية هى مصدر قلق في زمن الحرب وزمن السلم على حد سواء. في زمن السلم، يُطبق نوع آخر من القانون— القانون الدولي لحقوق الإنسان، وهو عبارة عن مجموعة أوسع نطاقا من المعاهدات والمبادئ والقوانين والالتزامات الوطنية بشأن "الحقوق المدنية والسياسية والاقتصادية والاجتماعية والثقافية التي يجب أن يتمتع بها جميع البشر".

ولكي تكون الأسلحة المستقلة منسجمة مع القانون الدولي لحقوق الإنسان، فيجب أن تتوافق على الأقل مع جميع معاهدات حقوق الإنسان الدولية والإقليمية والثنائية، وكذلك مع ما يقابلها من التشريعات المحلية. وفي الواقع، قد يكون من الضروري للأسلحة المستقلة أن تعزز حقوق الإنسان. لذا، لا يكفي أن تسأل دولة عمّا إذا كانت الأسلحة المستقلة سوف تحمي المدنيين في دولة أخرى مشتبكة معها في عمليات عسكرية؛ بل يجب أن تلتزم الأسلحة المستقلة أيضا بقوانين دولتها. وبشكل أكثر دقّة، يجب أن تحظى الأسلحة المستقلة بالقبول القانوني في الأوضاع غير المستقرة بين قوانين الحرب وقوانين السلام.

كل هذا يشكل سقفا عاليا جدا للأسلحة المستقلة. لرؤية هذا بوضوح، علينا دراسة كيف يمكن أن تنتهك الأسلحة المستقلة الاتفاقية الأوروبية لحقوق الإنسان على سبيل المثال. إذا تم نشر أسلحة مستقلة داخل أوروبا، وكانت تُستخدم للمراقبة في كل مكان، في عمليات مكافحة الإرهاب مثلا، قد تفشل تلك الأسلحة في احترام الحق في الحياة الخاصة والعائلية، وهو حق مكفول بموجب المادة 8 من الاتفاقية. ولأن هذه الأسلحة قد تكون متصلة بالانترنت بدلا من كونها روبوتات، يمكن أن يكون لها أيضا آثار سلبية على حرية الفكر والضمير والدين (المكفولة بموجب المادة 9). ويمكن أن تتعدى الأسلحة المستقلة المتصلة بالانترنت على حرية التعبير (المادة 10) إذا قامت بمنع الحوار أو التعبير عن الرأي عبر الإنترنت.

إن أخطر تهديد تشكله الأسلحة المستقلة هو بالطبع تهديد للحق في الحياة. ويمكن للمرء أن يفترض أن "السلامة المدنية" تعني الحق في الحياة، بدلا من الحق في الحياة الخاصة والعائلية مثلا. ولكن الحق في الحياة—المكفول ليس فقط بموجب المادة 2 من الاتفاقية ولكن أيضا بموجب صكوك دولية هامة أخرى—ليس مطلقا. إذ يعتمد الحق في الحياة إلى حد كبير على تراخيص قانونية فيما يتعلق باستخدام القوة المميتة.

ومع ذلك، تختلف هذه التراخيص القانونية تبعا لما إذا كان المرء في حالة حرب أو في حالة سلم. في حالات زمن السلم (أو "إنفاذ القانون")، يتطلب استخدام القوة المميتة خطرا وشيكا على المارّة أو الضباط. أما خلال الحرب، فتكون عتبة استخدام القوة المميتة أقل من ذلك بكثير. ويوحي تطبيق هذه الفروق على الأسلحة المستقلة بأنه إذا تم تحديد فرد باعتباره تهديدا محتملا أو حقيقيا، يجب على الاسلحة المستقلة محاولة إلقاء القبض عليه (إذا لم يكن التهديد مميتا ووشيكا على المارة؛ فلن يكون هناك أي خطر بالنسبة للآلات). وإذا كان النظام غير قادر على الاعتقال—لأنه نظام جوي مثلا — ستبدوا الخيارات محدودة على إما القتل أو عدم القتل. لكن قتل أحد الأشخاص في مثل هذه الظروف سيكون بمثابة انتهاك تلقائي للحق في الحياة. علاوة على ذلك، سيكون هذا الفعل تعديا على الحق في المثول أمام محاكمة عادلة. وإنكار الحق في محاكمة يقوض سيادة القانون، الذي يعد في حد ذاته أهم قوة لحفظ السلامة المدنية وحمايتها.

خطر على الجميع. علاوة على جميع ما تقدم، ستكون السلامة المدنية وبالتالي الحق في الحياة مهددان من خلال سباق تسلح محتمل في الأسلحة المستقلة والذكاء الاصطناعي. سوف يعرض مثل هذا السباق المدنيين في جميع أنحاء العالم لمخاطر وجودية محتملة لا مبرر لها. وإذا طُورت الاسلحة المستقلة وتم نشرها، فسيكون لها في النهاية مكان في كل نطاق— الجو والفضاء والبحر والبر والإنترنت. وسوف تصطاد في جماعات. وسيتم ربطهما في شبكة أنظمة الأسلحة المستقلة بدون قيادة بشرية. وسوف تنظم دوريات على شبكات الحاسوب. وسوف تكون في كل مكان. فمن الصلف إذن، أن نفترض أن دولة واحدة فقط سوف تسعى لتطوير تلك الأسلحة.

سوف تخلص عديد من الدول إلى أن دفاعاتها تتطلب، وبسرعة متزايدة من أي وقت مضى، أن يتم تطويرها بذكاء اصطناعي ذي قوة متزايدة وبأسلحة ذات قدر أكبر من الاستقلالية. لكن الأنظمة المستقلة القادرة على التعلم يمكنها بسرعة الخروج عن سيطرة مخترعيها. وستكون خطرا على أي شخص يكون في متناولها. كما أن الأسلحة المستقلة المتصلة مع بعضها البعض عبر الشبكات، أو وكلاء مستقلين ذوي ذكاء اصطناعي ومتصلين بالإنترنت، لن تقتصر على إقليم جغرافي واحد أو على دول مشاركة في نزاع مسلح. إن الآثار غير المقصودة لابتكار ونشر أنظمة مستقلة قد تكون شديدة للغاية بحيث تجعل المخاطر المرتبطة باستخدامها تفوق أي فوائد محتملة.

إذن هل فرض حظر تام هو الاستجابة المناسبة لتطوير أسلحة مستقلة، أم فرض قانون تنظيمي دولي فعال هو النهج الملائم؟ لقد جادلت في الماضي بحظر الأسلحة المستقلة— إذ أن مخاطر عدم حظرها مرتفعة للغاية. لكن سواء تم فرض حظر أو لم يتم، فالمطلوب هو إيجاد تشريع دولي فعال. إن العديد من تقنيات المعلومات والاتصالات هى ذات استخدام مزدوج— وهذا يعني أنه يمكن استعمالها في أغراض عسكرية وغير عسكرية. كما يمكن للذكاء الاصطناعي أن يفيد المجتمعات، فلا ينبغي رفض هذه المنافع بسبب الأضرار الأخرى. لذلك، يجب على الدول العمل معا، بمساعدة خبراء ومنظمات غير حكومية، لخلق نهج عملي قابل للتنفيذ لتقنيات مستقلة ذاتيا في مجال الروبوتات والأمن السيبراني— نهج يمنع التسليح لكنه يسمح بالاستخدامات المفيدة. لذا فليست المسألة تكمن في حظر الأسلحة المستقلة أو تنظيمها. بل تكمن حقا في الطريقة المثلى للقيام بكلا الأمرين على حد سواء.