Президент МККК:

Президент МККК: "Мы должны ориентироваться на человека при разработке и применении новых технологий".

Выступление Мирьяны Сполярич, президента Международного Комитета Красного Креста. Диалог Шангри-Ла, Специальная сессия 5: искусственный интеллект, киберзащита и войны будущего. 1 июня 2024 г., Сингапур
Заявление 01 июнь 2024

Уважаемые дамы и господа!

По классификации МККК в настоящее время ведется более 120 вооруженных конфликтов. Их число увеличилось более чем в три раза за последние 30 лет. Кроме того, сегодняшние конфликты порождают многоплановые последствия, как местного, так и регионального характера.

Для привлечения внимания участники дискуссии слишком часто используют такие понятия, как «перепутье» или «критический момент». Однако политический жаргон не должен отвлекать нас от той реальности, с которой МККК и другие гуманитарные организации сталкиваются сегодня в местах ведения военных действий.

Новые и перспективные технологии изменяют характер ведения военных действий в ходе вооруженных конфликтов, делают их более сложными. Видное место в дискуссиях об эволюции военных действий занимают такие темы, как совмещение киберопераций с применением традиционного оружия, а также возрастающая роль искусственного интеллекта, интегрируемого в системы вооружений и процесс принятия решений.

Как представляется, эти новые технологии вполне могут дать военное преимущество, например наделить способностью действовать на скоростях, существенно превышающих человеческие возможности. Или позволят наносить удары в условиях затрудненной работы средств связи, например на морских пространствах, которые играют такую значительную роль здесь, в Азиатско-Тихоокеанском регионе.

В то же время эти новые технологии порождают и новые опасности для людей. Они повышают риск непреднамеренной эскалации конфликта, вызывают опасения с точки зрения распространения оружия, а также усугубляют и без того невыносимые страдания жертв вооруженных конфликтов.

Я хочу остановиться на трех направлениях эволюции военных действий, вызывающих обеспокоенность:

  • во-первых, тенденции развития технологий указывают на то, что в будущем автономные системы вооружений будут применяться против более широкого спектра целей, в течение более длительного времени и с меньшими возможностями для вмешательства человека;
  • во-вторых, в ходе вооруженного конфликта на процесс принятия решений в военной сфере относительно того, кто или что станет целью нападения, оказывает влияние искусственный интеллект, и он ускоряет этот процесс настолько, что с ним уже не справляются когнитивные способности человека, в результате чего снижается качество принимаемых решений, а это порождает дополнительные риски для гражданского населения;
  • в-третьих, сегодня кибероперации применяются для того, чтобы вывести из строя такие государственные гражданские службы, как водо- и электроснабжение, а также воспрепятствовать работе медицинских служб и гуманитарной деятельности.

В рамках этих направлений все больше повышается роль таких сложных систем искусственного интеллекта, как генеративные модели и другие формы машинного обучения, поскольку военные стремятся использовать широкий набор инструментов, которые разрабатываются ошеломительными темпами. Встраивание систем искусственного интеллекта в эти разнообразные виды оружия и методы военных действий может лишь усугубить проблемы, порождая новые факторы непредсказуемости и ускоряя темп военных действий так, что человек уже будет не способен контролировать их, при том что на сегодняшних полях сражений обстановка уже чрезвычайно изменчива. Все это ставит перед командирами и комбатантами проблемы соблюдения ими обязательств, предусмотренных МГП.

Геополитическая напряженность или предполагаемая военная необходимость не могут оправдать игнорирование гуманитарных соображений, в реальности же именно в такие трудные времена гуманность актуальна как никогда.

В ходе разработки и применения новых технологий мы должны полагаться на подход, ориентированный прежде всего на человека, чтобы жертвы вооруженных конфликтов продолжали пользоваться защитой. Мы не можем допустить ситуации, когда новые военные технологии будут ускоренно воспроизводить и даже усугублять последствия противоправных или иных пагубных действий и расширять их масштабы.

Поэтому я обращаюсь ко всем государствам с двумя призывами.

Во-первых, необходимо поставить в приоритет соблюдение норм МГП и подтвердить свою приверженность его общепризнанным принципам. А именно:

  • заключить новый договор, регулирующий автономные системы вооружений. Такой договор должен запретить непредсказуемые автономные системы вооружений и автономные системы, поражающее воздействие которых направлено на людей, а также наложить строгие ограничения на применение остальных подобных систем. Вместе с Генеральным секретарем Организации Объединенных Наций я обратилась к государствам с призывом срочно вступить в переговоры и заключить к 2026 г. договор, регулирующий автономные системы вооружений
  • Когда речь идет об искусственном интеллекте в системах, помогающих принимать решения в военной сфере, мнение человека должно оставаться определяющим, особенно это касается решений, ставящих под угрозу жизнь и достоинство людей.
  • В отношении киберпространства государства должны коллективно решить, как защитить общество от цифровых угроз. Многие государства поддержали конкретные рекомендации Всеобщего консультативного совета МККК по цифровым угрозам. Тем не менее, необходимо срочно принять конкретные меры в этом направлении.

Во-вторых, необходимо признать, что соблюдение норм МГП – это инвестиция в поддержание мира. Женевские конвенции ратифицированы всеми государствами и поэтому они представляют собой универсальный консенсус. И они решительно отвергают концепцию военной победы любой ценой или всеми доступными средствами.

Любой вооруженный конфликт порождает ужас, отчаянье, страшные человеческие жертвы, наносит огромный экологический урон. Войны будущего не будет отличаться от нынешних, независимо от того, будет ли в их ходе применяться традиционное оружие или же новые технологии. Но есть и альтернативы получше. Предотвратить или обратить вспять гонку вооружений, обеспечить регулирование развития новых военных технологий – вот эффективные шаги, которые помогут реализовать стремление человечества жить в мире.

По достоинству оценивая потенциал инноваций, мы должны и дальше сохранять бдительность, отстаивая наши стремления и ценности. Сегодняшние решения международного сообщества в отношении этих новых технологий определят на несколько поколений вперед, какими станут войны будущего и какой будет жизнь миллиардов людей во всем мире.

Если мы сможем сотрудничать, соблюдать действующие и заключать новые международные соглашения, мы сможем построить будущее, в котором технологии будут обеспечивать прежде всего интересы гуманности и служить делу мира.

Благодарю вас.