أسئلة متكررة بشان منظومات الأسلحة ذاتية التشغيل

منظومات الأسلحة ذاتية التشغيل، التي يُشار إليها أيضًا باسم "الروبوتات القاتلة" أو "البوتات القاتلة"، هي أسلحة تستطيع، بعد تفعيلها، تحديد الأهداف واستخدام القوة ضدها من دون تدخل بشري إضافي. 

ويُقصد بعبارة "من دون تدخل بشري" أنه بمجرد أن يقوم شخص بتفعيل السلاح، فإنه يواصل العمل ذاتيًا بعد ذلك.  ويستخدم السلاح مستشعرات لرصد ظواهر، مثل الحرارة أو الضوء أو الحركة أو الشكل أو السرعة، ويستخدم هذه البيانات لمطابقة الأهداف المحتملة مع "تصنيف عام للهدف". فعلى سبيل المثال، قد يتضمن هذا التصنيف شكل المركبة العسكرية أو سرعتها أو بصمتها الحرارية/الرادارية.  وإذا قيّم السلاح أن الجسم الذي رصده يطابق هذه الخصائص المحددة سلفًا، فإنه يستطيع أن يبادر ذاتيًا إلى تنفيذ ضربة من دون أن يختار شخص استهداف ذلك الهدف بعينه في وقت الهجوم. 

نعم، باتت منظومات الأسلحة ذاتية التشغيل أمرا واقعا. ومن أمثلة ذلك:   

• منظومات الدفاع الجوي والمنظومات الدفاعية المضادة للقذائف: بما في ذلك منظومات الأسلحة للدفاع القريب المثبتة على السفن الحربية والمنظومات البرية التي تحمي القواعد، والتي ترصد ذاتيًا الصواريخ أو القذائف أو قذائف الهاون القادمة وتتعقبها وتعترضها، بسرعة تفوق قدرة الإنسان. 
• منظومات الحماية النشطة المثبتة على الدبابات: التي ترصد تلقائيًا المقذوفات والقذائف القادمة وتشتبك معها قبل أن تصيب المركبة. 
• بعض الذخائر العنقودية المزوّدة بمستشعرات: التي تطلق ذخائر فرعية مزودة بمستشعرات تبحث عن أنواع من الأهداف مثل المركبات المدرعة وتضربها من دون وجود كائن بشري يختار كل هدف على حدة. 
• بعض الذخائر الجوَّابة: التي يُقال إنها تستطيع تمشيط منطقة ما والاشتباك مع أهداف مثل الرادارات التي تتطابق مع تصنيف مبرمج مسبقًا. 

في الوقت الراهن، تعتمد هذه المنظومات في معظمها على نظم "قائمة على قواعد" أو "حتمية"، وتعمل عمومًا في بيئات خاضعة للسيطرة، وتستهدف نطاقًا ضيقًا من الأهداف العسكرية، مثل قذائف العدو أو غيرها من المقذوفات، أو الرادارات العسكرية أو السفن الحربية. غير أن اللجنة الدولية للصليب الأحمر (اللجنة الدولية) تشعر بالقلق إزاء اتجاه واضح نحو إدماج ذكاء اصطناعي أكثر تعقيدًا في منظومات الأسلحة ذاتية التشغيل هذه، وإزاء ما يبدو أنه اهتمام عسكري ظاهر بتخفيف القيود المفروضة على أماكن استخدام هذه الأسلحة أو الأهداف التي تُستخدم ضدها، الأمر الذي قد يؤدي إلى تفاقم عدم القدرة على التنبؤ بآثارها. ومن شأن ذلك أن يعرّض المدنيين والأعيان المدنية لمخاطر جسيمة في النزاعات المسلحة.  

تثير منظومات الأسلحة ذاتية التشغيل شواغل إنسانية وقانونية وأخلاقية بالغة الأهمية، إذ يمكنها اختيار الأهداف وضربها من دون مزيد من التدخل البشري. ولا تقتصر هذه الشواغل على التكنولوجيا في حد ذاتها، الأمر الذي يعني أن الحلول الهندسية أو خيارات التصميم لا تكفي بالضرورة لمعالجتها. 

1. المخاطر الإنسانية: مخاطر الانتشار وتصاعد حدة النزاعات. شأنها شأن أي أسلحة أخرى، ستنتشر الأسلحة ذاتية التشغيل وتُستخدم بما يخالف القانون الدولي الإنساني، بما في ذلك من جانب الجماعات المسلحة غير التابعة للدول والتنظيمات الإجرامية. وهي، في الواقع، عرضة بوجه خاص للانتشار، مع انخفاض تكلفة المستشعرات والبرمجيات وغيرها من المكونات المتاحة تجاريًا وسهولة الحصول عليها. وثمة أيضًا خطر يتمثل في أن يدفع استخدام الأسلحة ذاتية التشغيل النزاعات نحو مزيد من التصعيد، إذ إنها تسرّع بدرجة كبيرة عملية اختيار الأهداف والاشتباك معها، ما يزيد من مخاطر سوء التقدير ويقلّص فرص التدخل البشري واحتواء التصعيد.   

2. التحديات القانونية: صعوبة ضمان الامتثال للقانون الدولي الإنساني والقانون الدولي لحقوق الإنسان. نظرًا إلى أن الأسلحة ذاتية التشغيل تختار الأهداف وتضربها من دون تدخل بشري، يصعب على المُشغِّلين البشريين التنبؤ بالظروف التي سيقع فيها الهجوم، وتقدير ما إذا كان سيتوافق مع القانون الدولي الإنساني. وتزداد صعوبة ذلك بوجه خاص مع تزايد تعقيد الأسلحة ذاتية التشغيل (ما يترتب عليه تراجع إمكانية التنبؤ بآثارها) وكذلك عند نشرها في مناطق مأهولة بالسكان أو في بيئات متغيرة.   

   يزيد ذلك من خطر شن هجمات تنتهك قواعد القانون الدولي الإنساني المتعلقة بالتمييز والتناسب والاحتياطات الواجب اتخاذها عند الهجوم. وتقتضي هذه القواعد إجراء تقييمات تراعي سياق كل حالة في الظروف السائدة وقت الهجوم، ولا يمكن ببساطة "برمجتها" مسبقًا أو اختزالها في صورة مؤشرات تقنية. إن تحديد ما إذا كان الشخص مدنيًا يشارك مباشرةً في الأعمال العدائية، أو ما إذا كان أحد المقاتلين بصدد الاستسلام أو مشمول بالحماية، أو ما إذا كان الضرر المتوقع أن يلحق بالمدنيين سيكون مفرطًا، يستلزم فهمًا نوعيًا لعوامل، مثل النية والسلوك والسياق وهو ما لا يمكن لأي عملية حسابية آلية تحقيقه.   

   تزداد هذه التحديات حدةً عندما تكون المنظومات غير قابلة للتنبؤ أو غامضة، فإذا تعذر على المستخدمين فهم كيف يتصرف السلاح وما الآثار التي قد تترتب على استخدامه والتنبؤ بها وشرحها على نحو كافٍ، لا يمكن تقييم مشروعية استخدامه. كما قد تجعل هذه المنظومات تحديد المسؤولية والمساءلة أكثر تعقيدًا عند وقوع ضرر غير مشروع.  

    

3.  المعضلة الأخلاقية: تفويض الآلات فعليًا بحسم نتائج تتعلق بالحياة والموت. إضافة إلى المخاطر الإنسانية والقانونية، ثمة سؤال أخلاقي جوهري يطرح نفسه: هل ينبغي السماح لآلة، في أي ظرف من الظروف، بتقرير مصير إنسان ما إذا كان سيعيش أم سيموت؟ وحده الإنسان يملك القدرة على إدراك القيمة المتأصلة للروح البشرية وممارسة الحكم الأخلاقي وضبط النفس. عندما تستهدف آلة شخصًا استنادًا إلى بيانات المستشعرات وتصنيف الهدف، قد يُختزل هذا الشخص في مجموعة من نقاط البيانات، ما يستبعد الحكم البشري من قرار استخدام القوة الفتاكة. ولا تزول هذه الشواغل لمجرد أن التكنولوجيا تزداد دقتها. إذ ترى اللجنة الدولية أن الإبقاء على سيطرة بشرية حقيقية على القرارات المتعلقة بالحياة والموت يمثل ضرورة أخلاقية. 

ينطبق القانون الدولي الإنساني بالفعل على الأسلحة ذاتية التشغيل. غير أن اللجنة الدولية ترى أن القواعد القائمة لا تتصدى على نحو كافٍ لكل ما تثيره هذه الأسلحة من مخاطر إنسانية وقانونية وأخلاقية محددة. لذلك، ندعو إلى وضع قواعد دولية جديدة وملزمة قانونًا لحظر منظومات الأسلحة ذاتية التشغيل غير المقبولة، وفرض قيود صارمة على ما عداها. 

ليست الأسلحة ذاتية التشغيل غير قانونية بالضرورة. ينطبق القانون الدولي الإنساني القائم على استخدام الأسلحة ذاتية التشغيل، شأنه في ذلك شأن انطباقه على أي سلاح آخر.  

تحظر قواعد القانون الدولي الإنساني أنواعًا معينة من الأسلحة، ومنها الأسلحة العشوائية بطبيعتها. ويكتسي ذلك أهمية خاصة بالنسبة إلى السلاح ذاتي التشغيل الذي يعمل بطريقة غامضة (وهو ما يُعرف بتحدي "الصندوق الأسود")، ما قد يحول دون فهم البشر مخرجات المنظومة أو التنبؤ بها أو تفسيرها. ومن شأن ذلك أن يمنع قدرة المستخدم على توجيه السلاح ضد هدف عسكري محدد، ويؤدي فعليًا إلى انعدام السيطرة على آثار السلاح، بما يجعله سلاحًا عشوائيًا بطبيعته. 

كما يجب أن يمتثل أي هجوم يُشن بأي سلاح لقواعد القانون الدولي الإنساني بشأن سير الأعمال العدائية: فلا يجوز أن يوجَّه إلا إلى هدف عسكري محدد، وألا يُتوقع منه أن يتسبب في أضرار عرضية مفرطة للمدنيين، كما يجب اتخاذ جميع الاحتياطات الممكنة لتجنب إلحاق الضرر بالمدنيين. بيد أن ضمان هذه الشروط وتقييمها مسبقًا يصبح أكثر تعقيدًا مع الأسلحة ذاتية التشغيل، لأن المستخدم لا يختار، بل قد لا يعرف حتى، الشخص أو الجسم المحدد الذي سيؤدي إلى تفعيل منظومة الأسلحة ذاتية التشغيل لتنفيذ الضربة، أو الوقت و/أو المكان الدقيقين اللذين ستقع فيهما الضربة. إذ تعتمد هذه التفاصيل على العمليات التي تقوم بها الآلة (المستشعرات والبرمجيات والمشغلات) في منظومة الأسلحة وعلى المدخلات الحسيّة الواردة من البيئة الميدانية.  

وعليه، كيف يتسنى للمستخدم أن يضمن أن أي ضربة تنفذها منظومة الأسلحة لن تُوجَّه إلا ضد هدف عسكري مشروع، ولن تستهدف مدنيًا أو شخصًا جريحًا أو شخصا يعلن استسلامه؟ وكيف يمكنه أن يقيّم مسبقًا أن أي ضرر عرضي لن يكون مفرطًا، رغم أن الوضع على الأرض قد يتغير بين لحظة تفعيل السلاح ولحظة وقوع الضربة؟ وماذا لو تبين أن المستهدف ليس هدفًا عسكريًا؟ ينص القانون الدولي الإنساني على وجوب اتخاذ كل التدابير الممكنة عمليًا لإلغاء الهجوم أو تعليقه، لكن قد لا يكون ذلك ممكنًا عند استخدام سلاح ذاتي التشغيل. 

من المرجح ألا يكون الوفاء بهذه الالتزامات القانونية عند استخدام سلاح ذاتي التشغيل ممكنًا إلا من خلال حظر بعض أنواع الأسلحة ذاتية التشغيل حظرًا تامًا، وفرض قيود صارمة على البيئة الميدانية للأنواع الأخرى، بغية الحد من عدد النتائج المحتملة. 

ولهذا السبب، تدعو اللجنة الدولية وجهات أخرى كثيرة إلى وضع قواعد جديدة وملزمة قانونًا تحظر الأسلحة ذاتية التشغيل التي يتعذر التنبؤ بسلوكها وتلك المضادة للأفراد، وفرض قيود واضحة على جميع الأنواع الأخرى. 

لا تُعدّ كل الطائرات المسيّرة المسلحة أسلحةً ذاتية التشغيل.  

فالطائرة المسيّرة المسلحة التي يقودها عن بُعد مُشغّل بشري يتولى تحديد الهدف ويقرر متى يطلق النار، ليست سلاحًا ذاتي التشغيل، ولكنها يمكن أن تصبح سلاحًا ذاتي التشغيل إذا تولت، بمجرد تفعيلها، اختيار هدف واستخدام القوة ضده من دون أن يختار إنسان ذلك الهدف بعينه.  

لا يتمثل المعيار الأساسي في ما إذا كان السلاح قادرًا على الطيران بصورة مستقلة، بل ما إذا كانت لديه استقلالية في وظائف الاستهداف الحاسمة، أي اختيار الأهداف واستخدام القوة ضدها. 

لا تعتمد جميع منظومات الأسلحة ذاتية التشغيل على الذكاء الاصطناعي.  

وتتراوح درجة الاستقلالية في الأسلحة بين المنظومات البسيطة والعالية التعقيد، وقد تعتمد أو لا تعتمد على الذكاء الاصطناعي، بما في ذلك التعلّم الآلي (أي عندما يتعلم النظام أنماطًا من البيانات ويستخدم تلك الأنماط لأداء مهمة محددة). على سبيل المثال، يمكن أن تكون منظومات الدفاع الجوي ذاتية التشغيل، بيد أنها تستخدم عمومًا برمجيات بسيطة قائمة على القواعد بدلاً من الذكاء الاصطناعي.  

قد تتضمن منظومات أسلحة أخرى تقنيات الذكاء الاصطناعي، من دون أن تستخدمها في وظائفها المتعلقة باختيار الأهداف والاشتباك معها. ومن ثم، فإن منظومة الأسلحة التي تستخدم الذكاء الاصطناعي في الملاحة فقط لا تُعد بالضرورة سلاحًا ذاتي التشغيل.  

أصبحت الأسلحة ذاتية التشغيل بالفعل أمرًا واقعًا، وهي تتراوح بين منظومات دفاعية تشتبك تلقائيًا مع المقذوفات القادمة وبعض الذخائر الجوَّابة والأسلحة المزوّدة بمستشعرات. تركز شواغل اللجنة الدولية على الاتجاهات الرامية إلى تطوير منظومات مصممة للعمل في نطاقات جغرافية أوسع ولفترات أطول وضد مجموعة أكبر من الأهداف، مع إدماج أشكال متزايدة التعقيد من الذكاء الاصطناعي فيها.  

تؤدي هذه التطورات العسكرية والتقنية إلى مزيد من عدم القدرة على التنبؤ، سواء من حيث كيفية عمل هذه الأسلحة أو كيفية تفاعلها مع بيئة العمليات، مما يعرّض المدنيين والأعيان المدنية في النزاعات المسلحة لمخاطر كبيرة.  

في حين تدّعي الجهات المروّجة لتكنولوجيات الأسلحة الجديدة في كثير من الأحيان أن لدى هذه الأسلحة إمكانية  تعزيز الامتثال للقانون الدولي الإنساني وتقليل المخاطر التي يتعرض لها المدنيون، فإن ما شهدناه عبر التاريخ وما نشهده اليوم يخالف هذا الزعم. 

في كثير من النزاعات الدائرة حول العالم التي تستخدم أكثر وسائل الحرب تطورًا من الناحية التكنولوجية، لم نشهد تحسنًا في النتائج بالنسبة إلى المدنيين، بل شهدنا مستويات واسعة وغير مقبولة من الدمار والأضرار التي تلحق بهم. ولم تفضِ الخصائص التي يُروَّج لها في التكنولوجيات الجديدة إلى زيادة الدقة والتمييز واتخاذ الاحتياطات، بل إلى تسريع الدمار وتوسيع نطاقه وتصعيده، بما يخلّف آثارًا مروعة على المدنيين. 

يؤدي ذلك إلى إيجاد بيئة يتزايد فيها عدم القدرة على التنبؤ، ما يفاقم مخاطر إلحاق الضرر بالمدنيين، ويؤكد ضرورة فرض حظر وقيود واضحة على منظومات الأسلحة ذاتية التشغيل، للحيلولة دون الممارسات التي من شأنها تقويض أوجه الحماية التي يكفلها القانون الدولي الإنساني. 

منظومات الأسلحة ذاتية التشغيل المضادة للأفراد هي أسلحة تستطيع تحديد البشر واستهدافهم بصورة مباشرة.  

ترى اللجنة الدولية أن هذه المنظومات تثير قلقًا بالغًا لأن المؤشرات التي تدل على وضع الشخص في النزاع المسلح – مثل ما إذا كان مستسلمًا أو مصابًا أو مشاركًا مباشرةً في الأعمال العدائية – تعتمد إلى حد كبير على السياق والظروف المحيطة، ما يجعل التعرف عليها من خلال عملية آلية أمرًا بالغ الصعوبة. وإضافة إلى ذلك، فإن هذا الوضع قد يتغير بسرعة، وتكون عواقب الخطأ في تقديره مأساوية بوجه عام. 

لذلك يصعب تصور حالات قتالية واقعية لا ينطوي فيها استخدام منظومات الأسلحة ذاتية التشغيل ضد الأشخاص على خطر كبير بوقوع انتهاكات للقانون الدولي الإنساني. 

إلى جانب المخاطر الميدانية والقانونية، ثمة سؤال أعمق يفرض نفسه: هل ينبغي السماح لآلة، في أي ظرف من الظروف، بتقرير مصير إنسان ما إذا كان سيعيش أم سيموت؟ وحده الإنسان يملك القدرة على إدراك القيمة المتأصلة للحياة البشرية وفهم معناها. وإذا استهدفت آلة شخصًا استنادًا إلى بيانات المستشعرات وتصنيف الهدف، فسيُختزل هذا الشخص إلى مجرد نقاط بيانات. وسيُلغى بذلك المجال المتاح للحكم البشري والوازع الأخلاقي. وهذا خط أحمر أخلاقي يجب ألا نتجاوزه، بصرف النظر عن مدى الدقة التي قد تبلغها التكنولوجيا. 

تُظهر الخبرة المكتسبة من أسلحة أخرى مضادة للأفراد (مثل الألغام الأرضية المضادة للأفراد) أنه حتى وإن كان من الممكن نظريًا استخدام هذه الأسلحة بما يتوافق مع القانون الدولي الإنساني، فإنها في الواقع لا تُستخدم على هذا النحو في الغالبية الساحقة من الحالات. ومن ثم، فإن الحظر التام هو الحل الأكثر عملية وفعالية، إذ يوفر الوضوح واليقين للقوات المسلحة، ويكفل في الوقت نفسه الحماية اللازمة للمقاتلين والمدنيين على حد سواء. 

هي منظومات لا تتيح للمستخدم البشري فهمًا كافيًا لكيفية عملها أو التنبؤ بآثارها أو تفسير سلوكها. وينطبق ذلك، بصفة خاصة، على منظومات الأسلحة ذاتية التشغيل التي تدمج الذكاء الاصطناعي بطرق تجعل آلية عملها غامضة (ما يُعرف بتحدي "الصندوق الأسود").  

يترتب على انعدام القدرة على التنبؤ بهذه النتائج، في نهاية المطاف، غيابَ السيطرة على آثار السلاح، ما يجعله سلاحًا عشوائيًا بطبيعته، وهو ما تحظره قواعد القانون الدولي الإنساني. 

ومن ثم، فإن الحظر الصريح والتام هو الحل الأكثر عملية وفعالية، إذ يوفّر القدرة اللازمة على التمييز بما يكفل حماية المدنيين والامتثال لقوانين الحرب. 

لقد أصبح من الواضح بالفعل الاتجاه نحو زيادة التشغيل الذاتي في الأسلحة وتخفيف القيود الميدانية. إذ تتسع الفجوة بين ما يمكن للآلات أن تفعله وما ينبغي أن نسمح لها بفعله.  

وفي 25 آب/أغسطس، جدّدت رئيسة اللجنة الدولية، ميريانا سبولياريتش، والأمين العام للأمم المتحدة، أنطونيو غوتيريش، نداءهما المشترك والعاجل إلى قادة العالم لاعتماد قواعد دولية جديدة بشأن منظومات الأسلحة ذاتية التشغيل، محذِّرَين من أننا نقترب الآن بصورة خطيرة من تجاوز خط أحمر أخلاقي، يتمثل في استهداف الآلات للبشر من تلقاء نفسها.  

وبما أن العلماء والمهندسين الذين يطوّرون هذه المنظومات هم أنفسهم الذين يدقون ناقوس الخطر ويدعون إلى وضع قواعد تنظيمية، فلا يسع العالم الانتظار حتى يصبح استخدامها واسع الانتشار، والتأخر بما يفسح المجال أمام التكنولوجيا والممارسات القائمة بتجاوز جهود التنظيم. 

من دون اتخاذ إجراءات دولية في الوقت المناسب لوضع حدود قانونية وأخلاقية واضحة، ثمة خطر يتمثل في تطوير منظومات أسلحة ذاتية التشغيل غير مقبولة وانتشارها على نطاق واسع. وبمجرد نشر هذه الأسلحة على نطاق واسع، سيصبح احتواء المخاطر التي تشكلها على المدنيين والأمن العالمي أكثر صعوبة بكثير. 

عام 2026 عام حاسم، فأمام الدول فرصة مهمة، في المؤتمر الاستعراضي السابع للاتفاقية المتعلقة بأسلحة تقليدية معينة، المقرر عقده في الفترة من 16 إلى 20 تشرين الثاني/نوفمبر 2026، للانتقال من مرحلة النقاش إلى التفاوض بشأن قواعد دولية جديدة لتنظيم منظومات الأسلحة ذاتية التشغيل. تنطبق المبادئ الحالية للقانون الدولي الإنساني على الأسلحة ذاتية التشغيل، غير أن وضع قواعد جديدة يمكن أن يرسم حدودًا أوضح قبل أن تصبح الممارسات الإشكالية أمرًا واقعًا راسخًا. 

تدعو اللجنة الدولية الدول إلى التفاوض بشأن صك دولي ملزم قانونًا يشمل ما يلي: 

• حظر نوعين من منظومات الأسلحة ذاتية التشغيل:  

1. المنظومات التي يتعذر التنبؤ بآثارها: وهو ما يُرجح حدوثه عندما تدمج المنظومات أشكالاً من الذكاء الاصطناعي يمكن أن تنتج مخرجات مختلفة في الظروف ذاتها. 
2. المنظومات المصممة لاستهداف البشر بصورة مباشرة (منظومات الأسلحة ذاتية التشغيل المضادة للأفراد). 

• وضع قيود على جميع منظومات الأسلحة ذاتية التشغيل الأخرى: بما يشمل قصر أنواع الأهداف على الأهداف العسكرية بطبيعتها، وتقييد النطاق الجغرافي والمدة والظروف التي تُستخدم فيها وحجم استخدامها، وتزويدها بوسائل فعالة لتحييدها أو تعطيلها أو تدميرها. 

ترى اللجنة الدولية أن هذه القواعد التنظيمية بالغة الأهمية للتصدي للمخاطر الإنسانية والقانونية والأخلاقية التي تنطوي عليها منظومات الأسلحة ذاتية التشغيل. ولا ندعو هنا إلى حظر جميع منظومات الأسلحة ذاتية التشغيل، ولا إلى حظر استخدام الذكاء الاصطناعي في منظومات الأسلحة برمتها، إذ ندرك أن الذكاء الاصطناعي قد يكون مفيدًا في بعض الوظائف مثل الملاحة بما يسهم في تحسين دقة الأسلحة.