Автономные системы вооружения: вопросы и ответы

02 сентябрь 2014

Технический прогресс в области вооружений приводит к тому, что решения на применение силы на поле боя всё чаще могут приниматься машинами, работающими без вмешательства человека. Здесь мы рассматриваем возможные результаты таких глубоких изменений в ведении войны и предостерегаем от применения такого оружия, если при этом не гарантируется соблюдение международного гуманитарного права.

Как могут автономные системы вооружения, действующие независимо, проводить различие между комбатантами и гражданскими лицами? Смогут ли они отменить нападение, при котором возможно причинение несоразмерного ущерба гражданским лицам? И кто понесет ответственность за нарушение международного гуманитарного права?

Поскольку на многие вопросы ответа нет, МККК призвал государства должным образом оценивать возможные гуманитарные последствия и проблемы в области международного гуманитарного права, к которым может привести использование этих новых военных технологий. А в марте 2014 г. МККК созвал международное совещание экспертов для того, чтобы активизировать обсуждение этой проблематики.

Что такое автономное оружие?

Автономные системы вооружения (их также называют «смертоносное автономное оружие» или «роботы-убийцы») самостоятельно, без вмешательства человека, разыскивают, выявляют и поражают цели. Сегодня уже применяются некоторые системы вооружения, которые самостоятельно выполняют такие «критически важные» функции, как выявление и поражение целей. Например, некоторые оборонительные системы вооружения имеют автономные режимы перехвата управляемых и неуправляемых ракет, артиллерийских снарядов и летательных аппаратов противника на близком расстоянии.

Пока что эти системы обычно являются стационарными и действуют автономно в течение короткого времени, только при строго определенных обстоятельствах (например, при наличии сравнительно небольшого числа гражданских лиц и объектов) и против ограниченного перечня видов целей (например, главным образом, боеприпасы или транспортные средства). Однако в будущем автономные системы вооружения могут функционировать вне жестко заданных пространственно-временных рамок, сталкиваясь с разнообразными быстро меняющимися обстоятельствами и, возможно, непосредственно выбирая людей в качестве цели.

Относятся ли беспилотные летательные аппараты (БПЛА) к автономным видам оружия?

Автономные системы вооружения открывают огонь без вмешательства человека, в отличие от применяемых сегодня беспилотных воздушных систем (их также называют беспилотниками или дистанционно пилотируемыми летательными аппаратами). У БПЛА могут быть другие автономные функции (такие как автопилот и навигация), но им требуется человек-оператор для выбора целей, активации и наведения установленного на них оружия и открытия огня.

Раздавались призывы к мораторию или запрету разработки, производства и применения автономных систем вооружения. Поддерживает ли МККК эти призывы?

МККК пока что не присоединяется к этим призывам. Однако МККК призывает государства рассматривать принципиальные правовые и этические проблемы, связанные с применением автономных систем вооружения, до того, как будет происходить их дальнейшая разработка или применение в условиях вооруженного конфликта, как того требует международное гуманитарное право. МККК озабочен возможными гуманитарными последствиями использования автономных систем вооружения, а также тем, насколько возможно применять их, не нарушая норм международного гуманитарного права.

Что говорит международное гуманитарное право об автономных системах вооружения?

Конкретной нормы, относящейся к автономным системам вооружения, не существует. Однако право гласит, что государства должны выяснять, не запрещено ли международным правом применение какого-либо нового вида оружия либо средства или метода ведения войны, которые оно разрабатывает или приобретает, при некоторых или при любых обстоятельствах. Данное требование содержится в Дополнительном протоколе I к Женевским конвенциям.

Иными словами, давно установившиеся нормы международного гуманитарного права, регулирующие ведение военных действий, в особенности, принципы различения целей, соразмерности и принятия предосторожностей при нападении, относятся ко всем новым видам оружия и техническим инновациям в области ведения войны, в том числе, и к автономным системам вооружения. Проведение такой правовой оценки новых видов оружия имеет критически важное значение при разработке новых военных технологий.

Самая сложная задача для любого государства, разрабатывающего или приобретающего автономную систему вооружения, заключается в том, чтобы обеспечить ее способность функционировать в соответствии со всеми этими принципами. Например, неясно, как такое оружие может проводить различие между гражданским лицом и комбатантом, как того требует принцип различения целей. Мало того, от такого оружия может даже потребоваться, чтобы оно различало комбатантов, активно участвующих в военных действиях, и теми, кто выбыл из строя или сдающимися в плен, а также между гражданскими лицами, принимающими непосредственное участие в вооруженных столкновениях и вооруженными гражданскими лицами – такими как сотрудники правоохранительных органов или охотники – которые остаются под защитой права и по которым нельзя наносить удар.

Автономной системе вооружения также необходимо будет действовать в соответствии с принципом соразмерности, согласно которому случайные потери среди гражданского населения, ожидаемые в результате нанесения удара по военному объекту, не должны быть чрезмерными по сравнению с предполагаемым конкретным и непосредственным военным преимуществом. Наконец, автономная система вооружения должна будет функционировать так, чтобы это позволяло принимать необходимые меры предосторожности при нападении, призванные свести к минимуму число жертв среди гражданского населения.

Как показывают оценки существующих технологий и тех, которые могут появиться в обозримом будущем, маловероятно, что удастся создать машины с такими функциями принятия решений. Поэтому сегодня существуют серьезные сомнения относительно способности автономных систем вооружения соблюдать международное гуманитарное право, кроме каких-то очень специфических случаев и самых простых ситуаций.

К каким результатам может привести применение автономных систем вооружения в вооруженном конфликте?

Некоторые сторонники автономных систем вооружения утверждают, что эти системы можно программировать так, чтобы они действовали более «осторожно» и точно, чем люди, и, следовательно, применять их с целью сокращения случайных потерь среди гражданского населения. С другой стороны, их оппоненты утверждают, что у автономных систем вооружения никогда не будет присущего человеку здравого смысла, который необходим для законного применения силы, и что их применение скорее приведет к усугублению гуманитарных последствий.

Эти системы вооружения заставляют также задуматься над серьезными вопросами нравственного порядка, и их широкое распространение изменило бы коренным образом существующие взгляды на ведение военных действий. Главный вопрос для всех нас состоит в том, могут ли принципы гуманности и требования общественной совести разрешить машинам принимать решения о том, кому из людей жить, а кому умереть.

Кто несет понесет ответственность, если применение автономной системы вооружения приведет к нарушению международного гуманитарного права?

Автономная система вооружения – это машина, и она не может понести ответственность за нарушение международного гуманитарного права. Возникает вопрос, выходящий за рамки ответственности тех, кто разворачивает эти системы: кто понесет юридическую ответственность, если в результате функционирования автономной системы вооружения будет совершено военное преступление – инженер, программист, изготовитель или командир, который привел оружие в действие? Если ответственность не может быть определена как того требует международное гуманитарное право, можно ли признать развертывание таких систем законным или этически оправданным?

Что должно стать основным вопросом в будущих дискуссиях государств?

Возрастающая автономность несет в себе опасность того, что вместо людей решения будут принимать машины и, таким образом, будет постепенно ослабевать контроль человека над применением силы. Хотя признается, что окончательный контроль останется за людьми, необходимо более подробное обсуждение того, что такое достаточный, эффективный или надлежащий контроль человека за применением силы.

МККК рекомендовал государствам проанализировать автономность при осуществлении «критически важных функций» существующих и разрабатываемых систем вооружения, и сообщить эту информацию, чтобы добиться более глубокого понимания этой проблемы. В будущих дискуссиях необходимо рассмотреть главный вопрос: с какого момента и при каких обстоятельствах нам грозит потеря эффективного контроля человека за применением силы?

Поскольку на многие вопросы ответа так и нет, МККК призывает государства не допускать применения автономных систем вооружения, если при этом невозможно обеспечить соблюдение международного гуманитарного права.

Подпишитесь на новости МККК