أسئلة متكررة: الذكاء الاصطناعي في المجال العسكري

منظومات الأسلحة ذاتية التشغيل هي منظومات أسلحة تستطيع، بعد تفعيلها، تحديد الأهداف واستخدام القوة ضدها دون تدخل بشري إضافي. 

ويُقصد بعبارة "دون تدخل بشري" أنه بعد أن يفعِّل الإنسان المنظومة، تستخدم المعلومات المستمدة من بيئتها المحيطة – التي تجمعها مستشعرات ترصد، على سبيل المثال، الحرارة أو الضوء أو الحركة أو الشكل أو السرعة أو غير ذلك من الإشارات – لمطابقة الأهداف المحتملة مع "خصائص مستهدفة" عامة. ومن أمثلة هذه الخصائص شكل المركبة العسكرية أو بصمتها بالأشعة تحت الحمراء أو بصمتها الرادارية أو سرعتها.

لا تعتمد جميع منظومات الأسلحة ذاتية التشغيل على الذكاء الاصطناعي. وتتراوح هذه المنظومات بين البسيطة والعالية التعقيد، وقد تعتمد أو لا تعتمد على الذكاء الاصطناعي، بما في ذلك التعلّم الآلي (وهو أحد أنواع نظم الذكاء الاصطناعي التي تتعلم الأنماط من البيانات وتستخدم تلك الأنماط لأداء مهمة محددة). يمكن أن تكون منظومات الدفاع الجوي منظومات أسلحة ذاتية التشغيل، بيد أنها تستخدم عمومًا برمجيات بسيطة قائمة على القواعد بدلاً من الذكاء الاصطناعي. 

تعرب اللجنة الدولية عن قلقها إزاء ما يبدو أنه اتجاه نحو إدماج نظم ذكاء اصطناعي أكثر تعقيدًا في منظومات الأسلحة ذاتية التشغيل، وهو ما قد يزيد من حدة المخاوف المتعلقة بعدم القدرة على التنبؤ بآثارها. وقد تتضمن منظومات أسلحة أخرى تقنيات ذكاء اصطناعي دون أن تكون منظومات أسلحة ذاتية التشغيل، ومثال ذلك استخدام البرمجيات للتحكم في وظائف مثل المراقبة أو الملاحة. وقد يوفر نظام دعم اتخاذ القرار القائم على الذكاء الاصطناعي مدخلات تُستخدم في تشغيل منظومة أسلحة، إلا أنها لا تُعد منظومة أسلحة ذاتية التشغيل إذا كان القرار النهائي يتخذه صانع قرار بشري.

تستطيع منظومات الأسلحة ذاتية التشغيل تحديد الأهداف واستخدام القوة ضدها دون تدخل بشري، ما يجعل من الصعب على مستخدميها التنبؤ بنتائجها والسيطرة عليها. ويؤدي عدم إمكانية التنبؤ إلى زيادة خطر وقوع هجمات عشوائية أو غير مشروعة على نحو آخر بموجب القانون الدولي الإنساني. كما تواجه هذه المنظومات صعوبات في التمييز بين المدنيين والمقاتلين، أو التعرف على الجنود الجرحى أو الذين استسلموا، أو تفسير الأوضاع المعقدة. 

وتعرب اللجنة الدولية عن قلقها البالغ إزاء نشر منظومات أسلحة ذاتية التشغيل في بيئات معقدة، ولا سيما في المناطق المأهولة بالسكان، إذ تتزايد بصورة كبيرة صعوبة التمييز بين الأهداف العسكرية من جهة والمدنيين والأعيان المدنية من جهة أخرى. 

نعم. فبعض منظومات الأسلحة ذاتية التشغيل تستخدمها القوات المسلحة بالفعل. ومن أمثلتها المنظومات الدفاعية المضادة للقذائف المثبتة على السفن الحربية، التي ترصد القذائف القادمة وتشتبك معها بصورة ذاتية. وتعمل هذه المنظومات عمومًا في بيئات خاضعة للسيطرة وتستهدف أعيانًا عسكرية محددة بوضوح. 

ويُلاحظ وجود اتجاه واضح نحو منح منظومات الأسلحة قدرًا أكبر من التشغيل الذاتي، إلى جانب اهتمام عسكري ظاهر بتخفيف القيود المفروضة على أماكن استخدام هذه الأسلحة أو على الأهداف التي يمكن استخدامها ضدها. وتعرب اللجنة الدولية عن قلقها البالغ إزاء احتمال تطوير منظومات أسلحة ذاتية التشغيل تدمج الذكاء الاصطناعي بطرق تجعل طريقة عملها وآثارها غير قابلة للتنبؤ، أو تلك المصممة لاستهداف البشر بصورة مباشرة. وتنطوي هذه المنظومات على مخاطر غير مقبولة بالنسبة للمدنيين، وكذلك للمقاتلين الجرحى أو المرضى أو الغرقى أو الذين استسلموا.

كما يمكن تطوير منظومات الأسلحة ذاتية التشغيل بتكلفة منخفضة نسبيًا وبسهولة كبيرة. وتتيح التكنولوجيا الحالية تصنيع هذه المنظومات مع وجود عوائق محدودة للغاية، ما يزيد من خطر انتشارها.

منظومات الأسلحة ذاتية التشغيل المضادة للأفراد هي أسلحة تستطيع تحديد البشر واستهدافهم بصورة مباشرة. 

وترى اللجنة الدولية أن هذه المنظومات تثير قلقًا بالغًا لأن المؤشرات التي تدل على وضع الشخص في النزاع المسلح – مثل ما إذا كان مستسلمًا أو مصابًا أو مشاركًا مباشرةً في الأعمال العدائية – تعتمد إلى حد كبير على السياق والظروف المحيطة، ما يجعل التعرف عليها من خلال عملية آلية أمرًا بالغ الصعوبة. وعلاوة على ذلك، فإن هذا الوضع قد يتغير بسرعة، وتكون عواقب الخطأ في تقديره مأساوية بوجه عام.

ولذلك يصعب تصور حالات قتالية واقعية لا ينطوي فيها استخدام منظومات الأسلحة ذاتية التشغيل ضد الأشخاص على خطر كبير بوقوع انتهاكات للقانون الدولي الإنساني.

كما تثير هذه المنظومات مخاوف أخلاقية عميقة، إذ إنها تُفضي فعليًا إلى تفويض الآلات باتخاذ قرارات تتعلق بالحياة والموت. فالإنسان وحده هو القادر على إدراك القيمة الجوهرية للحياة البشرية وفهمها.

أما الآلية التي تعمل بها منظومات الأسلحة ذاتية التشغيل المضادة للأفراد فتختزل الإنسان إلى مجرد نقاط بيانات. ويُقوّض ذلك المبدأ الأساسي القائل بأنه لا يجوز أبدًا اختزال البشر إلى مجرد أشياء.

وتُظهر الخبرة المكتسبة من أسلحة أخرى مضادة للأفراد (مثل الألغام الأرضية المضادة للأفراد) أنه حتى وإن كان من الممكن نظريًا استخدام هذه الأسلحة بما يتوافق مع القانون الدولي الإنساني، فإنها في الواقع لا تُستخدم على هذا النحو في الغالبية الساحقة من الحالات. ومن ثم، فإن الحظر التام هو الحل الأكثر عملية وفعالية، إذ يوفر الوضوح واليقين للقوات المسلحة، ويؤمن في الوقت نفسه الحماية اللازمة للمقاتلين والمدنيين على حد سواء.

هي منظومات لا تتيح للمستخدم البشري فهمًا كافيًا لكيفية عملها أو التنبؤ بآثارها أو تفسير سلوكها. وينطبق ذلك، على سبيل المثال، على منظومات الأسلحة ذاتية التشغيل التي تدمج الذكاء الاصطناعي بطريقة تجعل آلية عملها غامضة أو غير شفافة (ما يُعرف بتحدي "الصندوق الأسود"). 

ويؤدي ذلك فعليًا إلى غياب السيطرة على آثار السلاح، ما يجعله سلاحًا عشوائيًا بطبيعته.

إن التوجه نحو منح منظومات الأسلحة مزيدًا من القدرة على التشغيل الذاتي، إلى جانب توسيع نطاق المعايير التشغيلية التي تعمل في إطارها هذه المنظومات، بات أمرًا واضحًا. ومن دون اتخاذ إجراءات دولية في الوقت المناسب لوضع حدود قانونية وأخلاقية واضحة، ثمة خطر يتمثل في تطوير منظومات أسلحة ذاتية التشغيل غير مقبولة وانتشارها على نطاق واسع. وبمجرد نشر هذه الأسلحة على نطاق واسع، سيصبح احتواء المخاطر التي تشكلها على المدنيين والأمن العالمي أصعب بكثير.

ويتيح المؤتمر الاستعراضي السابع للاتفاقية المتعلقة بأسلحة تقليدية معينة، المقرر عقده في الفترة من 16 إلى 20 تشرين الثاني/نوفمبر 2026، فرصة بالغة الأهمية للدول للشروع في مفاوضات بشأن صك دولي جديد ملزم قانونًا لتنظيم منظومات الأسلحة ذاتية التشغيل.

فيما يتعلق بمنظومات الأسلحة ذاتية التشغيل، تدعو اللجنة الدولية الدول إلى التفاوض بشأن صك دولي ملزم قانونًا من أجل: 

• حظر منظومات الأسلحة ذاتية التشغيل غير القابلة للتنبؤ: وهي المنظومات التي لا يمكن التنبؤ بآثارها أو السيطرة عليها على نحو كافٍ، ويزداد احتمال ذلك عندما تتضمن أشكالًا غير حتمية من الذكاء الاصطناعي.
  • حظر منظومات الأسلحة ذاتية التشغيل المضادة للأفراد: وهي المنظومات المصممة أو المستخدمة لاستهداف البشر بصورة مباشرة.
    • تقييد تطوير واستخدام جميع منظومات الأسلحة ذاتية التشغيل الأخرى: الحد من أنواع الأهداف التي يمكن استهدافها والنطاق الجغرافي ومدة الاستخدام والظروف التي تُستخدم فيها هذه المنظومات، وكذلك حجم استخدامها.

في عام 2024، قدمت اللجنة الدولية إلى الأمين العام للأمم المتحدة آراءها بشأن السبل الكفيلة بمعالجة التحديات والمخاوف المرتبطة بمنظومات الأسلحة ذاتية التشغيل من المنظورات الإنسانية والقانونية والأمنية والتكنولوجية والأخلاقية، وكذلك بشأن دور الإنسان في استخدام القوة: icrc_submission_on_autonomous_weapons_to_unsg.pdf

تحلل هذه النظم مجموعات ضخمة من البيانات لدعم اتخاذ القرارات العسكرية، إلا أنها تنطوي على مخاطر ترتبط بطريقة عمل الذكاء الاصطناعي نفسها، فضلًا عن محدودية جودة البيانات وتوفر البيانات المحددة السياق في النزاعات المسلحة. 

كما يثير استخدامها مسألة "التحيز للأتمتة"، أي ميل الأفراد إلى الثقة المفرطة في التوصيات أو المخرجات التي تولدها الآلة، ولا سيما في المواقف التي تتسم بضغط عالٍ أو بضيق الوقت. وقد يؤدي ذلك إلى اعتماد المستخدمين على مخرجات الذكاء الاصطناعي بصورة تلقائية، بدلاً من تقييمها بشكل مستقل.

علاوة على ذلك، قد يسعى الخصوم في البيئات العدائية عمدًا إلى التلاعب بالبيانات أو استغلال ثغرات النظام. 

كما يمكن لهذه النظم أن تضخِّم سرعة الأخطاء وحجمها، وأن تزيد من خطر التصعيد غير المقصود، ولا سيما إذا أخفق المستخدمون في تقدير الموقف بشكل مستقل.

في ظروف معينة، قد يسهم الاستخدام الحذر والمسؤول لنظم دعم اتخاذ القرار القائمة على الذكاء الاصطناعي في تسريع تحليل المعلومات وجعله أكثر شمولًا، بما يدعم اتخاذ القرارات على نحو يعزز الامتثال للقانون الدولي الإنساني ويحد من المخاطر التي يتعرض لها المدنيون. فعلى سبيل المثال، يمكن أن تساعد هذه النظم في جمع المعلومات المتعلقة بوجود مدنيين وأعيان مدنية من المستودعات الإلكترونية مفتوحة المصدر ومعالجتها، أو في دعم عملية اختيار الأسلحة من خلال التوصية بوسائل الهجوم وأساليبه الأكثر قدرة على تجنب الأضرار العرضية التي تلحق بالمدنيين أو الحد منها على الأقل. ومع ذلك، فإن فعالية أي أداة من هذا النوع تظل خاضعة للقيود الملازمة للتكنولوجيا ذاتها، كما تعتمد على توفر بيانات جيدة النوعية. 

وفي نهاية المطاف، يتوقف أثر استخدام هذه التكنولوجيات على المدنيين على الكيفية التي تُصمم وتُستخدم بها.

ومن المهم التأكيد على أن استخدام نظم دعم اتخاذ القرار القائمة على الذكاء الاصطناعي لا يمكن أن يصحح منهجيات الاستهداف أو السياسات الأخرى غير المتوافقة أصلًا مع القانون الدولي الإنساني، إذ إن تطبيق هذه النظم ضمن أطر من هذا القبيل لن يؤدي إلا إلى تكرار الآثار غير القانونية أو الضارة وتفاقمها على نحو أسرع وأوسع نطاقًا.

قدمت اللجنة الدولية 16 توصية أولية لمعالجة المخاطر المرتبطة بنظم دعم اتخاذ القرار القائمة على الذكاء الاصطناعي في النزاعات المسلحة. وتؤكد هذه التوصيات أهمية الحفاظ على دور الإنسان في تقدير الموقف والسيطرة عليه. ومن أبرز هذه التدابير:

• ضمان إجراء اختبارات وتقييمات وعمليات تحقق وتصديق ومراجعات قانونية صارمة 
• استخدام بيانات موثوقة وعالية الجودة 
• تخفيف مخاطر التحيز والنتائج التمييزية 
• ضمان مشاركة بشرية مجدية والقدرة على تفنيد مخرجات الذكاء الاصطناعي 
• تعزيز تدريب المستخدمين، بما في ذلك التدريب على مخاطر التحيز للأتمتة 
• إجراء مراجعات بعد تنفيذ الإجراءات 

تشدد اللجنة الدوليةكذلك على ضرورة حظر بعض استخدامات الذكاء الاصطناعي، مثل استخدامه في منظومات التحكم في الأسلحة النووية ومراقبتها أو في منظومات الأسلحة ذاتية التشغيل المصممة لاستهداف البشر بصورة مباشرة أو التي تُحدث آثارًا غير قابلة للتنبؤ.

وتسترشد هذه التوصيات بنهج يتمركز حول الإنسان ويهدف إلى ضمان أن تدعم نظم الذكاء الاصطناعي عملية اتخاذ القرار البشري، لا أن تضعفها أو تحل محلها.

"العمليات السيبرانية" هي تلك التي تُنفذ ضد حاسوب أو نظام/شبكة أو أي جهاز آخر متصل بالإنترنت، عبر تدفق البيانات، عندما تُستخدم بوصفها وسيلة أو أسلوبًا من أساليب الحرب. وبعبارة موجزة، هي استخدام حاسوب لإلحاق الضرر بنظام حاسوبي آخر أو شبكة أو بيانات أخرى.

قد تؤدي العمليات السيبرانية إلى تعطيل الخدمات المدنية أو البنية التحتية أو البيانات أو إعاقتها أو إلحاق أضرار مادية بها. كما قد تسفر عن إصابة أشخاص أو وفاتهم، على سبيل المثال عند استخدام عمليات سيبرانية لتعطيل أجهزة طبية في المستشفيات أو حذف بيانات أو قطع التيار الكهربائي.

يفرض القانون الدولي الإنساني قيودًا على العمليات السيبرانية أثناء النزاعات المسلحة. وتعمل اللجنة الدولية على الأصعدة الثنائية والمتعددة الأطراف مع الدول ومجموعات المتسللين (hacker groups) لضمان تفسير قواعد القانون الدولي الإنساني القائمة وتطبيقها على نحو يكفل توفير حماية كافية للمدنيين والبنية التحتية والبيانات المدنية، بما في ذلك المرافق الطبية والمنظمات الإنسانية. غير أنه إذا جرى تفسير قواعد القانون الدولي الإنساني القائمة بطرق تُضعف وظيفته الحمائية في بيئة تكنولوجيا المعلومات والاتصالات، فسيتعين وضع قواعد إضافية لتعزيز الإطار القانوني القائم.