IKRK-Präsidentin: "Wir müssen bei der Entwicklung und dem Einsatz neuer Technologien den Menschen in den Mittelpunkt stellen."

Ansprache von Mirjana Spoljaric, Präsidentin des Internationalen Komitees vom Roten Kreuz. Shangri-La – Dialog, Sondersitzung 5: KI, Cyber-Verteidigung und der Krieg der Zukunft - 1. Juni 2024, Singapur.
01. Juni 2024 Singapur

Es gilt das gesprochene Wort

Meine Damen und Herren,

derzeit registriert das IKRK mehr als 120 bewaffnete Konflikte. Damit hat sich ihre Zahl in den letzten drei Jahrzehnten mehr als verdreifacht. Es kommt hinzu, dass die heutigen Konflikte mehrdimensionale Auswirkungen haben, und zwar sowohl lokal als auch überregional.

In der Debatte werden allzu oft Begriffe wie „Scheideweg" oder „Wendepunkt" bemüht, um Aufmerksamkeit zu erregen. Der politische Jargon sollte uns jedoch nicht ablenken von den Tatsachen, mit denen das IKRK und andere humanitäre Akteure auf den Schlachtfeldern von heute konfrontiert sind.

Neue und in Entwicklung befindliche Technologien verändern die Art und Weise, wie bewaffnete Konflikte ausgetragen werden, und machen sie komplexer. Cyber-Einsätze in Verbindung mit herkömmlichen Waffen und die zunehmend wichtige Rolle künstlicher Intelligenz in Waffensystemen und bei der Entscheidungsfindung stehen im Mittelpunkt der Debatte über die Entwicklung der Kriegsführung.

Diese neuen Technologien können durchaus militärische Vorteile bieten, so etwa die Fähigkeit, mit einer Geschwindigkeit zu handeln, die menschliche Kapazitäten weit übersteigt. Oder Angriffe in Gebieten durchzuführen, in denen Kommunikation nicht möglich ist, z.B. in Meeresgebieten, die gerade hier im asiatisch-pazifischen Raum so wichtig sind.

Diese neuen Technologien bergen zudem neue Gefahren für Gesellschaften. Sie erhöhen das Risiko einer unbeabsichtigten Eskalation, sie verstärken die Besorgnis angesichts der Weiterverbreitung von Waffen und sie verschlimmern das ohnehin schon unerträgliche Leid der von bewaffneten Konflikten Betroffenen.

Lassen Sie mich drei problematische Entwicklungen hervorheben:

  • Erstens zeigen die Trends, dass autonome Waffensysteme künftig gegen ein breiteres Spektrum von Zielen eingesetzt werden, und zwar über längere Zeiträume und mit weniger Möglichkeiten für menschliches Eingreifen.
  • Zweitens beeinflusst und beschleunigt künstliche Intelligenz die militärischen Entscheidungen darüber, wer oder was in bewaffneten Konflikten zum Ziel wird, und zwar in einer Weise, die die kognitiven Fähigkeiten des Menschen übersteigt und daher die Qualität der Entscheidungsfindung beeinträchtigt. Dies erhöht die Gefahren für die Zivilbevölkerung.
  • Drittens dienen Cyber-Einsätze dazu, zivile staatliche Dienstleistungen wie Wasser- und Stromversorgung lahmzulegen und die Arbeit medizinischer Einrichtungen und humanitärer Operationen zu behindern.

Komplexe KI wie etwa generative Modelle und andere Formen des maschinellen Lernens spielen bei diesen verschiedenen Entwicklungen eine immer grössere Rolle, da die Streitkräfte versuchen, möglichst viele der in rasantem Tempo entwickelten Tools zu nutzen. Die Integration von KI in diese verschiedenen Waffen und Methoden der Kriegsführung kann die Probleme noch verschärfen, indem sie zusätzliche Unsicherheitsfaktoren schafft und auf Schlachtfeldern, die ohnehin schon durch extreme Instabilität gekennzeichnet sind, das Einsatztempo menschlicher Kontrolle entzieht. Damit macht es die KI Befehlshabenden und Kämpfenden schwer, ihren HVR-Pflichten nachzukommen.

Geopolitische Spannungen oder vermeintliche militärische Notwendigkeiten dürfen nicht als Rechtfertigung dafür dienen, humanitäre Erwägungen ausser Acht zu lassen – in der Tat ist es gerade in so schwierigen Zeiten am wichtigsten, die Menschlichkeit zu wahren.

Wir müssen bei der Entwicklung und dem Einsatz neuer Technologien den Menschen in den Mittelpunkt stellen, um zu gewährleisten, dass die von bewaffneten Konflikten Betroffenen weiterhin geschützt werden. Wir dürfen nicht zulassen, dass neue Technologien der Kriegsführung dazu dienen, rechtswidrige oder anderweitig schädliche Auswirkungen schneller und in grösserem Umfang zu vervielfachen oder gar zu verstärken.

Daher wende ich mich mit zwei Appellen an alle Staaten.

Erstens bitte ich sie, dem humanitären Völkerrecht Priorität einzuräumen und ihr Bekenntnis zu seinen universell anerkannten Grundsätzen zu bekräftigen. Insbesondere rufe ich dazu auf,

  • den Einsatz autonomer Waffensysteme in einem neuen Vertrag zu regeln. Ein solcher Vertrag muss unberechenbare autonome Waffen und solche, die auf Menschen zielen, verbieten, und allen anderen strenge Einschränkungen auferlegen. Gemeinsam mit dem Generalsekretär der Vereinten Nationen habe ich die Staaten aufgerufen, dringend einen Vertrag zur Regulierung autonomer Waffensysteme auszuhandeln und bis 2026 zu verabschieden.
  • Im Hinblick auf den Einsatz von KI in Systemen, die militärischen Entscheidungen zugrunde liegen, muss menschliches Ermessen im Mittelpunkt stehen, insbesondere bei Entscheidungen, die Gefahren für das Leben und die Würde von Menschen bergen.
  • Im Hinblick auf den Cyberspace müssen die Staaten gemeinsam festlegen, wie sie Gesellschaften vor digitalen Bedrohungen schützen können. Viele Staaten haben bereits ihrer Unterstützung für die konkreten Empfehlungen des Global Advisory Board des IKRK zu digitalen Bedrohungen Ausdruck gegeben. Notwendiger ist jedoch entschlossenes Handeln.

Zweitens sollte anerkannt werden, dass die Achtung des humanitären Völkerrechts eine Investition in den Frieden ist. Die Genfer Abkommen sind von allen Staaten ratifiziert worden und stellen daher einen universellen Konsens dar. Sie lehnen das Prinzip des militärischen Sieges um jeden Preis oder mit allen verfügbaren Mitteln entschieden ab.

Jeder bewaffnete Konflikt ist verbunden mit Grauen, Verzweiflung und entsetzlich hohen Kosten für die Menschen und die Umwelt. Künftige Kriege werden nicht anders sein – ganz gleich, ob sie mit traditionellen Waffen oder neuen Technologien geführt werden. Es gibt bessere Alternativen. Die Eindämmung oder Umkehrung des Wettrüstens und die Regulierung der Entwicklung neuer Technologien der Kriegsführung sind wirksame Schritte, die dem Streben der Menschheit nach einem Leben in Frieden förderlich sind.

Wir begrüssen die Chancen der Innovation, sollten aber auch wachsam bleiben, um unsere Verpflichtungen einzuhalten und unsere Werte zu bewahren. Die Entscheidungen, die die Staatengemeinschaft heute hinsichtlich dieser neuen Technologien trifft, werden die Zukunft der Kriegsführung und das Leben von Milliarden Menschen weltweit für Generationen prägen.

Durch Zusammenarbeit sowie durch die Einhaltung und Weiterentwicklung internationaler Verträge können wir eine Zukunft aufbauen, in der die Technologie den Menschen in den Mittelpunkt stellt und dem Frieden dient.
Ich danke Ihnen.