Совместное обращение генерального секретаря ООН и президента МККК к государствам об установлении новых запретов и ограничений в отношении автономных систем вооружений

Сегодня мы обращаемся с совместным призывом решить чрезвычайно важный и неотложный гуманитарный вопрос. Организация Объединенных Наций и Международный Комитет Красного Креста (МККК) призывают государства ввести конкретные запреты и ограничения в отношении автономных систем вооружений, чтобы оградить нынешнее и будущие поколения от последствий их применения. В сложившейся обстановке в плане безопасности установление на международном уровне четких границ допустимого пойдет на пользу всем государствам.

Автономные системы вооружений, под которыми обычно понимают системы вооружений, выбирающие цели и применяющие силу без вмешательства человека, создают серьезные гуманитарные, правовые, этические проблемы, а также проблемы в сфере безопасности.

Их разработка и распространение могут существенно изменить методы ведения войны, способствовать усилению глобальной нестабильности и международной напряженности. Создавая ощущение, что их применение снижает риски для вооруженных сил и гражданского населения, они могут снизить порог необходимых факторов для развязывания конфликтов, тем самым непреднамеренно обостряя насилие.

Мы должны действовать уже сейчас, чтобы сохранить контроль человека над применением силы. Решения о жизни и смерти должны по-прежнему приниматься под контролем человека. Применение машинами автономных средств поражения для нападения на людей несовместимо с требованиями этики, это черта, которую мы не должны переступить. Машины, обладающие технической возможностью и свободой действий для того, чтобы отнимать жизнь без участия человека, должны быть запрещены международным правом.

Растущая доступность сложных новых и новейших технологий, таких как робототехника и технологии искусственного интеллекта, которые могут быть интегрированы в автономные системы вооружений, лишь усиливает наши опасения.

Тревогу бьют и сами ученые и лидеры отрасли, ответственные за такие технологические достижения. Если мы хотим использовать новые технологии на благо человечества, мы должны в первую очередь устранить самые острые риски и избежать непоправимых последствий.

Это значит — запретить автономные системы вооружений, последствия работы которых невозможно предсказать. Например, предложение сделать так, чтобы автономные системы вооружений управлялись алгоритмами машинного обучения — принципиально непредсказуемым программным обеспечением, которое пишет само себя, — неприемлемо опасно.

Кроме того, необходимы четкие ограничения и для всех других видов автономных вооружений, чтобы обеспечить соблюдение международного права и их этическую приемлемость. В том числе следует ограничить место, время и продолжительность их применения, виды целей, по которым они наносят удары, мощность применяемой силы, обеспечить возможность эффективного наблюдения со стороны человека, своевременного вмешательства и деактивации.

Несмотря на участившиеся сообщения об испытаниях и применении различных видов автономных систем вооружений, еще не поздно принять меры. В ходе дискуссий в Организации Объединенных Наций, в том числе в Совете по правам человека, в рамках Конвенции о конкретных видах обычного оружия и в Генеральной Ассамблее, продолжавшихся более десяти лет, была заложена основа для принятия четких запретов и ограничений. Теперь же, опираясь на эту основу, государства должны объединиться и начать конструктивные переговоры о новых нормах, направленных на устранение явных угроз, создаваемых этими оружейными технологиями.

Международное право, в частности международное гуманитарное право, запрещает определенные виды оружия и устанавливает общие ограничения на применение всех других видов оружия, а государства и отдельные лица по-прежнему несут ответственность за любые нарушения. Однако без четкого международного соглашения, регулирующего сферу автономных систем вооружений, государства могут по-разному смотреть на то, как применяются эти общие нормы. Поэтому для уточнения и усиления существующего законодательства необходимы новые международные нормы в отношении автономных систем вооружений. Они будут служить превентивной мерой и позволят защитить тех, кто может пострадать от такого оружия, они необходимы для того, чтобы человечество избежало ужасных последствий.

Мы призываем мировых лидеров начать переговоры о новом, имеющем обязательную юридическую силу, документе, устанавливающем четкие запреты и ограничения на автономные системы вооружений, и завершить такие переговоры к 2026 г. Мы настоятельно призываем государства-члены принять решительные меры для защиты человечества.