Возвращение к истокам с цифровым оттенком

Цифровая трансформация — основное направление развития в гуманитарном секторе и источник дополнительных сложностей для принципиальной гуманитарной деятельности. Она порождает новые дилеммы и риски, которые мы часто недооцениваем или упускаем из вида.

В этой статье старший советник МККК Пьеррик Девидаль рассматривает ряд возникающих в результате цифровизации проблем и возможностей для гуманитарных организаций в свете соблюдения основополагающих принципов: гуманности, беспристрастности, нейтральности и независимости.

Благодаря цифровизации гуманитарная деятельность осуществляется быстрее и эффективнее.

Телемедицина обеспечивает раненым в труднодоступных районах медицинскую помощь высокого уровня. Электронные денежные переводы позволяют людям быстрее получать финансовую помощь — а с ней и бóльшую финансовую независимость. Технология распознавания лиц помогает разлученным родственникам найти друг друга. Социальные сети облегчают связь с нуждающимся населением и распространение информации в качестве помощи. Большие данные помогают совершенствовать системы раннего предупреждения и оценки гуманитарных потребностей. И это далеко не полный список. Цифровые технологии — незаменимое подспорье для гуманитарных работников, стремящихся облегчить страдания людей во время конфликтов и стихийных бедствий.

Это плюсы.

Но цифровая трансформация также делает помощь более обезличенной, а процесс ее оказания — менее прозрачным. Социальные сети, дающие маргинализированным сообществам возможность участвовать во всемирной дискуссии, также способствуют распространению ложной и вводящей в заблуждение информации и разжиганию ненависти, усугубляют поляризацию, внося в общество раздор.

Генерируемые гуманитарными службами потоки данных могут превратиться в инструмент слежки за отдельными людьми и целыми группами, что повышает риск травли или преследований. И этот список можно продолжить.

Технологии, позволяющие гуманитарным работникам делать многое быстрее и в большем объеме, становятся источником серьезных практических и этических проблем, начиная от цифровой изоляции и заканчивая превращением гуманитарной деятельности в инструмент слежки и дискриминацией, обусловленной работой алгоритмов.

Это минусы.

Эти цифровые парадоксы никуда не уйдут.

Следовательно, после всех ожиданий и ажиотажа вокруг цифровых технологий гуманитарные работники должны приложить особые усилия, чтобы преодолеть цифровое неравенство и не допустить возможного цифрового похмелья.

Чтобы разрешить эти цифровые дилеммы, важно помнить, что основополагающие принципы, лежащие в основе гуманитарной деятельности, —гуманность, беспристрастность, нейтральность и независимость — служили и служат важнейшими инструментами для преодоления трудностей, о каком бы времени и месте ни шла речь. Они могут — и должны — использоваться для этого и в цифровую эпоху, если гуманитарные работники будут сознательно опираться на них при разработке стратегий.

Эти принципы делают возможным подход, позволяющий избежать ловушек биполярной системы, зачастую свойственной цифровым дебатам: энтузиасты видят в цифровых инструментах единственную панацею от проблем будущего, а скептики — экзистенциальную угрозу. Как это часто бывает, истина посередине, и основополагающие принципы могут помочь найти эту золотую середину и разобраться с рядом непростых вопросов, с которыми сталкиваются гуманитарные работники. Рассмотрим несколько примеров.

Автоматизация и перевод в формат данных подрывают гуманность?

В соответствии с принципом гуманности гуманитарные работники должны делать все возможное, чтобы облегчить страдания людей, повысить качество их жизни, обеспечить соблюдение их прав и уважение их человеческого достоинства. Цифровые технологии предлагают для этого множество решений, и гуманитарным работникам следует изучить, как данные инструменты могут помочь в достижении этой главной цели, не причиняя вреда — или скорее, насколько возможно, сводя к минимуму непреднамеренный вред, который может причинить их применение.

Тем не менее есть то, что цифровые технологии пока дать не могут: сопереживание, без которого нет уважения человеческого достоинства.

Поэтому, когда в ходе цифровой трансформации мы заменяем человека цифровым инструментом, например приложением с медицинскими рекомендациями, места для сопереживания не остается, поскольку межличностное взаимодействие сводится к минимуму. У пострадавших остается все меньше возможностей выговориться и быть выслушанными.

Могут ли чат-боты дать людям, травмированным войной, возможность почувствовать, что их понимают («Чтобы получить цифровое сопереживание, нажмите 1»)? Могут ли человеческие страдания и гуманитарные системы во всем своем многообразии быть вписаны в двоичный код цифрового мира? И если мы ограничиваем сопереживание, не изменяем ли мы принципу гуманности?

Если мобильные приложения, чат-боты и другие цифровые инструменты могут сделать помощь более доступной, а ее получателей — более автономными, крайне важно, чтобы они всегда лишь помогали людям в работе, а не заменяли их.

Управление цифровыми инструментами требует времени и ресурсов, и надо следить за тем, чтобы их использование не становилось игрой с нулевой суммой из-за сокращения вовлеченности человека, в том числе из-за отсутствия возможности сопереживать. Сегодня гуманитарные работники иногда забывают, что обусловленные экономической эффективностью и удобством, очевидные на первый взгляд преимущества цифровых технологий в краткосрочной перспективе не должны оборачиваться ущербом для основных человеческих потребностей, которые и делают гуманитарную сферу тем, что она есть. Под давлением чрезвычайных ситуаций гуманитарного характера и необходимости повышать эффективность оказания помощи (и соответствующих просьб доноров) всегда существует риск начать «двигаться быстро и ломать все вокруг».

Производительность — или то, что считается производительностью в соответствии с цифровыми метриками скорости и масштаба, — не должна стать важнейшим показателем эффективности гуманитарной деятельности.

Человеческие страдания и достоинство невозможно оцифровать, людей — свести к единицам данных, а сострадание — автоматизировать.

Цифровые технологии не должны угрожать способности гуманитарных работников понимать и учитывать сложные аспекты человеческой жизни, определяющие гуманитарные потребности. А именно это иногда и происходит. Поэтому важно найти эффективные системы сдержек и противовесов для снижения этого риска.

Если гуманность останется главной целью гуманитарных усилий, инновации не станут самоцелью и уязвимые группы населения не превратятся в аватары или пользователей, на которых будут тестировать новые формы цифрового колониализма. Стремясь к более эффективному преодолению этих рисков, МККК недавно учредил должность специального посланника по вопросам форсайта и технологической дипломатии, чтобы наши попытки предвидеть будущее не затрудняли понимание цифровых проблем настоящего.

Возможна ли беспристрастность в мире алгоритмов?

Беспристрастность — жизненно важный принцип гуманитарной деятельности, в которой главное — всегда объективно оценивать самые насущные потребности. Тем не менее специалисты-практики знают, что в регионах, затронутых конфликтом, эти потребности часто трудно выявить и измерить, потому что их могут использовать как средство достижения различных целей или скрывать, либо потому что у нас нет доступа к пострадавшим или недостаточно ресурсов, чтобы выявить или понять определенные потребности.

Несколько лет назад в связи с появлением больших данных возникла надежда на то, что информация, основанная на анализе фактических данных, и усовершенствованные системы искусственного интеллекта (ИИ) или машинного обучения повысят эффективность оценки потребностей. Эти цифровые решения должны были сократить неизбежно возникающие предубеждения и слепые пятна и сделать расстановку приоритетов и анализ потребностей более систематизированными и объективными. Помимо этого их представляли как средства, которые могут повысить отслеживаемость, позволят лучше отчитываться перед донорами и предотвращать мошенничество.

С тех пор мы узнали, что большие данные могут стать плохими данными, а на смену человеческим предубеждениям могут прийти предубеждения, обусловленные алгоритмами. Они транслируют заложенную в них системную дискриминацию (например, по расовому или гендерному признаку) и неравенство, интегрированные в массивы данных, на которых проходит машинное обучение.

Кроме того, мы стали свидетелями ситуаций, когда вместо эффективного сокращения числа случаев мошенничества алгоритмы выставляют предполагаемыми мошенниками нуждающихся в помощи людей. Для многих, несмотря на восторги, которые обычно вызывает искусственный интеллект (например, ChatGPT), искусственного в нем по-прежнему больше, чем интеллектуального.

В отличие от предубеждений, свойственных людям, выявить предубеждения со стороны алгоритмов и понять их суть не так просто, поскольку системам ИИ часто недостает прозрачности. Порожденные ими недоверие и риски труднее преодолеть, поскольку алгоритмы охватывают больший объем данных, они автоматизированы и уязвимы для кибератак. Подобным же образом, если при оценке гуманитарных потребностей чрезмерно сосредоточиться на данных и цифровых циклах обратной связи, мы рискуем упустить из вида важнейшие человеческие аспекты этих потребностей.

Будут ли технологии обратной связи считывать язык тела и интонацию голоса? Смогут ли распознавать разные акценты и языки? Будут ли улавливать невербальные сигналы и то, что выражено через эмоции, а не через слова? И с какими новыми сложностями столкнутся женщины, девочки и другие люди, страдающие от цифрового неравенства, если оценивать их потребности и мнение будут с помощью этих технологий?

Таким образом, хотя данные и алгоритмы могут приумножить возможности человеческого интеллекта и предложить в помощь полезные инструменты, позволяющие понять и измерить гуманитарные потребности, они же могут и помешать гуманитарным работникам следовать принципу беспристрастности. С их применением мы рискуем утратить полное понимание того, какие критерии применимы при оценке потребностей, и утратить контроль за их применением. А это, в свою очередь, снижает прозрачность гуманитарной деятельности. Работа этих алгоритмов может свести на нет усилия гуманитарных организаций, стремящихся сделать так, чтобы опыт и особое положение маргинализированных и «незаметных» категорий нуждающегося в помощи населения были лучше отражены и учтены при разработке гуманитарных программ.

Чтобы сохранить возможность беспристрастно удовлетворять потребности, нужно сохранить прозрачность гуманитарной деятельности и контроль человека над ней (несмотря на недостатки человеческого интеллекта). Нельзя забывать, что, рассматривая эти потребности через призму созданного компьютером и не поддающегося расшифровке математического кода, мы рискуем увидеть их в искаженном свете. Человек должен оставаться в контуре управления и занимать главенствующее положение при принятии решений в рамках гуманитарной деятельности, и ведущая роль в этом должна по-прежнему принадлежать ему, чтобы беспристрастность не была отдана на откуп алгоритмам с их «черными ящиками».

Международное сообщество должно тщательнее регулировать применение ИИ для поддержки гуманитарных программ: в принимаемых решениях важны не только практические, но также юридические и дипломатические аспекты. В условиях конфликтов неравенство и дискриминация представляют собой ничуть не меньшую угрозу, чем в мирное время. Такие условия требуют индивидуального подхода при принятии регуляторных мер, благодаря которым ИИ способствовал бы обеспечению беспристрастности, а не создавал бы опасность ее нарушения.

Сможет ли гуманитарная нейтральность выжить в сплинтернетах?

Чаще всего в ситуациях конфликтов наиболее безопасно и эффективно оказывать беспристрастную гуманитарную помощь по обе стороны от линии фронта позволяет нейтральность. Проблема с использованием цифровых технологий для работы в поляризированном обществе заключается в том, что применяющие их организации могут выглядеть недостаточно нейтральными. Сами по себе цифровые технологии не нейтральны, поскольку соответствуют политическим ценностям и целям тех, кто их создает и продвигает. То, какие цифровые инструменты гуманитарные работники будут выбирать для своей деятельности, скорее всего, все чаще будет рассматриваться как политическое решение.

Партнерство с технологическими компаниями в сфере безопасности и обороны может серьезно повлиять на образ организации в глазах пострадавшего населения и подорвать доверие. Как мы видим на примере вооруженного конфликта между Россией и Украиной, компании, которые разрабатывают и продают такие технологии, зачастую не нейтральны. Microsoft и Google твердо заняли сторону украинского правительства, оказывая ему цифровую поддержку и укрепляя его киберпотенциал. Одновременно с этим они ограничили возможности использования своих продуктов и услуг в России или полностью перестали их предоставлять, что сказалось на доступе гражданского населения к информации, распространяемой онлайн, и основным инструментам кибербезопасности на фоне продолжающихся кибератак.

Одновременно ключевые гуманитарные доноры, такие как США и Европейский союз, применяют санкции против цифровых услуг и продуктов из других стран. В ответ на это затронутые санкциями страны активно укрепляют собственный цифровой суверенитет и национальный интернет. Это еще больше раскалывает глобальное цифровое пространство, вызывая образование локальных сетей-«сплинтернетов», и усугубляет цифровое неравенство. Политизация и поляризация, сопровождающие цифровую трансформацию, углубляются, вытесняя нейтральный подход к цифровым технологиям.

Эффект домино серьезно затрагивает гуманитарные организации и влияет на то, воспринимают ли их как нейтральные. Большинство таких организаций в значительной степени зависят от коммерческих решений, предоставляемых компаниями, все более активно втягивающимися в политику и занимающими все более выраженную позицию по вопросам, связанным с конфликтами, и не всегда этим решениям есть альтернатива. Этими же решениями пользуются правительственные структуры и стороны в конфликте.

Использование их продуктов и услуг вызывает все больше опасений: не перестанут ли население и стороны в конфликте считать гуманитарные организации нейтральными из-за выбора типов и брендов используемых технологий? А без нейтральности нет ни доверия, ни доступа, ни безопасности.

В условиях усиливающейся цифровой фрагментации и поляризации крайне важно, чтобы гуманитарная деятельность не стала инструментом цифровой политики или стратегической конкуренции.

Tехнологическая дипломатия может обеспечить влияние на ключевых игроков в сфере цифровой трансформации и убедить их создать нейтральное пространство для обсуждения ответственного применения цифровых технологий в гуманитарной среде. В качестве примера вспомним исследования, проведенные МККК, чтобы оценить возможность использования цифровой эмблемы для защиты гуманитарных организаций в цифровом пространстве. Государствам следует поддержать эту инициативу.

Гуманитарные данные и цифровые системы не должны превращаться в инструменты достижения политических и коммерческих целей. Нам нужны новые нормативные инструменты, чтобы нейтральность гуманитарных организаций преодолела трудности цифрового перевода.

Как сохранить независимость от растущей цифровой зависимости?

Принцип независимости предписывает гуманитарным организациям держаться в стороне от политических, военных, экономических и религиозных сил и ассоциируемых с ними стратегий. Однако в действительности в эпоху глобализации, когда все в мире взаимосвязано и взаимозависимо, оказание гуманитарной помощи, как правило, невозможно без эффективного управления различными зависимостями. Доступ зависит от сторон в конфликте, финансирование зависит от доноров, принятие зависит от населения и т. д. Такое управление необходимо, чтобы сохранить определенный уровень оперативной автономности. Такая оперативная независимость является видимым аспектом нейтральности и необходимым фактором соблюдения беспристрастности.

Хотя цифровизация может повысить эффективность гуманитарных операций, она же может спровоцировать рост зависимости и уязвимости осуществляющих их организаций. Благодаря расширению информационного периметра их помощь становится разнообразнее и доступнее, но растут и площадь возможного поражения, и риск попасть под перекрестный огонь кибератак.

Предоставление цифровых услуг в широких масштабах часто требует переноса данных в облако, что предполагает значительные финансовые инвестиции и чревато зависимостью от особых коммерческих отношений с крупными и мощными коммерческими поставщиками цифровых технологий. Иногда, чтобы инвестировать в цифровые решения, требуется отказаться от аналоговых, которые (например, УКВ-радиостанции) могут иметь исключительно важное значение в ситуациях, когда рост рисков в сфере кибербезопасности или отключение интернета могут быстро парализовать гуманитарные операции, чрезмерно зависящие от цифровых средств.

И если подлинная независимость в мире, все элементы которого связаны цифровыми технологиями, все чаще кажется химерой, гуманитарным организациям важно подумать дважды — и тщательно — о том, насколько цифровые решения могут поддерживать оперативную автономность и непрерывность деятельности в нестабильной и фрагментированной цифровой среде.

Цифровые технологии приходится применять с оговорками, и за этими аспектами следует тщательно следить. Чтобы повысить устойчивость к рискам, необходимо инвестировать в цифровые НИОКР и цифровую готовность.

В связи с этим недавно МККК открыл делегацию по вопросам киберпространства.

Так у организации появилась возможность прицельно изучать в безопасных условиях, среди прочего, может ли программное обеспечение с открытыми исходными кодами стать безопасной и надежной альтернативой коммерческим решениям, и если да, то как, и каким образом обеспечение кибербезопасности и защита данных могут снизить цифровые риски. Это важная инициатива, которая может помочь лучше управлять цифровыми издержками и сократить ненужные цифровые зависимости.

Принципиальная деятельность в цифровом будущем

Идеальных решений этих головоломок нет. Важно, чтобы чрезмерная осторожность не стала предлогом для прекращения разработки и применения инновационных гуманитарных решений, поскольку некоторые из них могут очень существенно изменить к лучшему жизнь людей, пострадавших от конфликтов, насилия, различных бедствий и катастроф. Однако не менее важно, чтобы гуманитарные работники сохраняли критическое мышление, не поддаваясь восхищению и искушению принять желаемое за действительное, что часто встречается в нашем отношении к цифровым технологиям.

Основополагающие принципы — компас, с которым нам следует сверяться, держа курс на профессиональный и ответственный подход к инновациям и цифровым стратегиям, направленным на защиту прав и достоинства людей, помогая им сохранить основные элементы гуманитарной мантры, которые так важны для выполнения нашей миссии.

Гуманитарные акторы могут и должны делать больше, чтобы те перспективы, которые сулит цифровая трансформация, воплотились в реальную пользу для населения, пострадавшего от конфликтов, бедствий и катастроф. Государства, доноры и технологические компании должны поддерживать их усилия, уважать и защищать их приверженность гуманности, беспристрастности, нейтральности и независимости.

Оригинал статьи был опубликован в Humanitarian Law and Policy Blog, 02.02.23.