发现与成果 | 人道行动中负责任使用技术研讨会报告发布

研讨会设置开幕式、四场主题分论坛和闭幕式。近期发布的研讨会报告是对会议关键发现与成果的总结。

负责任的人工智能： 伦理、安全与问责治理

与会嘉宾围绕两条主线展开讨论。一是如何在系统自主性不断增强的情况下，维持人的责任；二是如何构建既具有全球一致性、又能够在地方层面落地的治理框架。与会者讨论认为：

• 人类控制和问责制始终是负责任人工智能治理的基石。监管和规范约束的对象是人，而非机器；不能让人工智能系统削弱或替代人类判断，更不能模糊责任链条。法律和伦理责任必须始终由人承担。 
• 尽管各地区治理模式不尽相同，围绕安全、透明度、人类监督和包容性等核心价值的共识正不断加深。政府、业界、 学术界及人道参与者各方协作，始终是避免治理碎片化、确保人工智能负责任开发与使用的关键所在。
• 原则本身并不足以支撑有效治理，必须辅以具体的工具、程序和保障措施。与会者强调，国际社会不能止步于宽泛的原则，而必须转向测试和评估、可追溯机制、明确责任分配以及人工智能全生命周期问责制落地等实操举措。

 技术向善：技术如何支持高效协同的危机应对？

与会嘉宾反复提到，人道组织在危机情境下开展工作时，“技术向善”首先依托的是基本基础设施，而非先进工具。讨论发现：

• 强健的数字基础设施是“技术向善”中最关键的一环。在危机情境下，“技术向善”始于有韧性的基础条件，即网络连接、电力保障和可离线运行的系统。
• 技术的中立性存在争议。部分与会者认为技术可以保持中立；但也有与会者认为，技术始终受到政治、法律和权力等因素的影响。对人道组织而言，维护其自身的中立性，关键在于妥善管理外部依赖、应对供应商锁定问题，同时防范受影响民众造成长期依赖的风险。
• 对话与合作至关重要。善意与创新本身并不足以确保积极成果。要真正让技术成为推动社会向善的力量，技术行业、公共部门与人道工作者之间必须开展深入而富有成效的对话。这不仅意味着明确责任归属、完善安全保障机制、制定审慎的退出策略，更意味着在面对可能造成伤害、加剧依赖或违背人道原则的技术时，具备果断说“不”的勇气。
   

人工智能安全保障：危机环境负责任部署的可行防范措施

与会嘉宾重点探讨了危机情境下人工智能应用的风险评估、治理边界与风险减缓机制，以及如何通过多利益相关方合作，推动人工智能更好地服务受影响社区。讨论得出：

• 风险的情景依赖：人工智能在安全和保障方面的风险高度依赖情景。后台管理和后勤工具风险较为可控；而影响伤员分诊或早期预警的一线系统则需受到更为严格的审查。
• “安全设计”理念：这意味着要在数据、透明度及模型训练等方面作出艰难抉择。由于人工智能系统直接将数据嵌入算法之中，模型行为会映射训练该模型时所使用的数据。人工智能还会带来除传统网络安全问题和数据保护风险外新的薄弱环节和风险。数据与算法的深度耦合，导致系统容易受数据投毒的影响，并可能因数据质量低下而产生偏见。
• 能力建设：相关培训不仅要培养员工和社区使用人工智能工具的能力，还应帮助他们了解其固有偏见和风险，学会质疑人工智能系统。应推动在更广泛的社会层面提升人工智能素养，使社区了解人工智能的应用场景与使用局限，并明晰何时应质疑其输出结果。
   

数字信任：构建和维护互联世界中的信心

与会嘉宾重点探讨了如何统筹技术保障措施、治理框架和跨部门协同机制，在快速变化且充满挑战的数字环境中构建、维护和巩固数字信任体系。讨论指出：

• 对人道行动的数字信任，既来源于安全可靠的技术系统始终如一、透明及可预测的表现，也来源于跨境协作，尤其是在高风险环境下处理敏感数据时。
• 在冲突背景下，数字信任尤为脆弱。滥用、挪用或泄露人道数据会直接危及受影响民众，破坏中立性、准入，以及相关社区对人道工作的接纳度。
• 构建并维系数字信任，需要前瞻未来风险并做好准备，包括为技术故障或滥用制定应急预案，并实施红十字国际委员会“数字标志”项目等实用机制。该项目旨在通过技术手段标示人道与医疗数字资产所享有的法律保护。
   

------------------------------------------------------------------------------------------------------------------
红十字国际委员会（ICRC）卢森堡全球网络事务代表处于2022年发起系列研讨会，聚焦网络空间及数字时代人道行动面临的挑战。系列研讨会均遵循查塔姆规则，旨在搭建开放、互信的交流平台，促进围绕新兴技术、网络安全、数据保护与人道行动交汇议题的跨领域、跨学科对话。本报告总结了2025年12月在中国北京举行的研讨会的主要发现与成果。