Häufig gestellte Fragen zu autonomen Waffensystemen

Autonome Waffensysteme (AWS), die im Allgemeinen auch als „Killer-Roboter“ oder „Slaughter Bots“ bezeichnet werden, sind Waffen, die nach ihrer Aktivierung selbständig Ziele auswählen und angreifen, ohne dass ein weiteres menschliches Eingreifen erforderlich ist.

„Ohne menschliches Eingreifen“ bedeutet, dass das System nach der Aktivierung durch einen Menschen autonom agiert. Es nutzt Sensoren, die beispielsweise Wärme, Licht, Bewegung, Formen oder Geschwindigkeit entdecken, und verwendet die Informationen, um potenzielle Ziele gegenüber einem allgemeinen „Zielprofil“ abzugleichen. 

Zu solchen Profilen gehören unter anderem Formen, Infrarot- oder Radarsignaturen oder die Geschwindigkeit von Militärfahrzeugen. Wenn die Waffe feststellt, dass das entdeckte Objekt diese vordefinierten Eigenschaften erfüllt, kann sie selbst einen Angriff auslösen, ohne dass eine Person zum Zeitpunkt des Angriffs das spezifische Ziel auswählt.

Ja, autonome Waffensysteme sind bereits Realität. Dazu gehören:

• Luft- und Raketenabwehrsysteme, einschliesslich Nahwaffensysteme auf Kriegsschiffen und landgestützte Systeme zum Schutz von Stützpunkten; diese Waffen erkennen und verfolgen eintreffende Raketen oder Mörser autonom, um sie schliesslich abzufangen – schneller als ein Mensch es je könnte.
• Aktive Panzerschutzsysteme, die eintreffende Geschosse oder Raketen automatisch erkennen und ausschalten, bevor sie das Fahrzeug treffen.
• Bestimmte Suchzündermunition, die mit Sensoren Submunition freisetzt. Dafür erkennen die Sensoren Zielobjekte wie Panzerfahrzeuge und greifen diese an, ohne dass ein Mensch jedes einzelne Ziel auswählt.
• Bestimmte Lenkwaffen, die nachweislich ein Gebiet durchsuchen und Ziele wie Radargeräte angreifen können, die mit einem vorprogrammierten Profil übereinstimmen. 

Derzeit handelt es sich bei diesen Systemen weitgehend um „regelbasierte“ bzw. „deterministische“ Systeme, die im Allgemeinen in kontrollierten Umgebungen gegen eine begrenzte Anzahl militärischer Ziele wie feindliche Raketen oder andere Geschosse, militärische Radare oder Kriegsschiffe eingesetzt werden. Das IKRK ist jedoch besorgt über den offensichtlichen Trend, zunehmend komplexe künstliche Intelligenz (KI) in diese autonomen Waffensysteme zu integrieren. Zudem besteht offenbar ein militärisches Interesse, Beschränkungen hinsichtlich der Art und der Ziele eines Einsatzes solcher Waffen zu lockern, was letztlich die Unberechenbarkeit ihrer Auswirkungen weiter verschärfen kann. Dies würde erhebliche Risiken für Zivilisten und zivile Objekte in bewaffneten Konflikten bedeuten. 

Autonome Waffensysteme geben Anlass zu ernstzunehmenden humanitären, rechtlichen und ethischen Bedenken, da sie Ziele ohne weiteres menschliches Eingreifen auswählen und angreifen können. Diese Bedenken hängen nicht nur mit der Technologie selbst zusammen und können daher nicht alleine durch technische Korrekturen oder Entscheidungen bei der Konstruktion behoben werden.

1. Humanitäre Risiken: Risiken im Zusammenhang mit der Verbreitung der Waffen und der Eskalation von Konflikten. Wie bei anderen Waffen auch wird es zur Verbreitung von autonomen Waffen und zu deren völkerrechtswidrigem Einsatz kommen, darunter von nicht staatlichen bewaffneten Gruppen und kriminellen Organisationen. Tatsächlich sind diese Waffen besonders anfällig für ihre Verbreitung, da Sensoren, Software und andere kommerziell verfügbare Komponenten immer billiger werden und der Zugang dazu immer leichter wird. Zudem besteht die Gefahr, dass der Einsatz autonomer Waffen zu einer Eskalation von Konflikten führt, da sie den Prozess der Auswahl und des Angriffs von Zielen drastisch beschleunigen, das Risiko von Fehlkalkulationen erhöhen und den Raum für menschliches Eingreifen und deeskalierendes Handeln verringern.

    

2. Rechtliche Herausforderungen: Probleme bei der Wahrung des humanitären Völkerrechts und der Menschenrechte. Da autonome Waffen Ziele ohne menschliches Eingreifen auswählen und angreifen, ist es für menschliche Anwender schwierig, die Umstände eines Angriffs im Voraus vorherzusagen und zu beurteilen, ob der Angriff im Einklang mit dem HVR erfolgt. Dies ist besonders schwierig, da autonome Waffen immer komplexer (und folglich weniger vorhersehbar) werden und gegebenenfalls in bewohnten Gebieten oder in einem sich verändernden Umfeld eingesetzt werden. 

   Dies erhöht das Risiko von Angriffen, die gegen das humanitäre Völkerrecht verstossen, mit Blick auf Unterscheidung, Verhältnismässigkeit und Vorsicht bei Angriffen. Diese Regeln erfordern kontextabhängige Bewertungen, die nicht einfach im Vorfeld „kodiert“ werden oder auf technische Indikatoren reduziert werden können. Um festzustellen, ob es sich bei einer Person um eine zivile Person handelt, die unmittelbar an Kampfhandlungen beteiligt ist, ob ein Kombattant sich ergibt oder anderweitig geschützt ist oder ob die erwarteten zivilen Schäden übermässig hoch sind, bedarf es eines umfassenden Verständnisses von Faktoren wie der Absicht, dem Verhalten und dem Kontext, das eine maschinelle Berechnung nicht leisten kann. 

   Unberechenbare oder undurchsichtige Systeme verschärfen diese Herausforderungen: Wenn Anwender nicht hinreichend verstehen, vorhersagen und erklären können, wie sich eine Waffe verhalten wird und welche Auswirkungen sie hervorrufen kann, ist die Beurteilung der Rechtmässigkeit ihres Einsatzes nicht möglich. Solche Systeme können auch Fragen der Verantwortung und Rechenschaftspflicht komplizieren, wenn rechtswidrige Schäden auftreten.

    

3. Ethisches Dilemma: Übertragung von Entscheidungen über Leben und Tod an Maschinen. Jenseits der humanitären und rechtlichen Risiken stellt sich eine grundlegende ethische Frage: Sollte eine Maschine jemals bestimmen dürfen, ob ein Mensch leben darf oder sterben muss? Es sind allein die Menschen, die den intrinsischen Wert menschlichen Lebens erkennen sowie über ein moralisches Urteilsvermögen verfügen und Zurückhaltung üben können. Wenn eine Maschine eine Person auf der Grundlage von Sensordaten und einem Zielprofil ins Visier nimmt, besteht die Gefahr, dass diese Person auf einen Datensatz reduziert wird und das menschliche Urteilsvermögen aus der Entscheidung zum Einsatz tödlicher Waffen ausgenommen wird. Diese Sorge verschwindet aber nicht einfach, wenn die Technologie präziser wird. Für das IKRK ist es ein moralisches Gebot, sinnstiftende menschliche Kontrolle bei Entscheidungen über Leben und Tod zu bewahren.

Das humanitäre Völkerrecht gilt bereits für autonome Waffen. Das IKRK ist jedoch der Ansicht, dass die bestehenden Vorschriften nicht alle mit diesen Waffen verbundenen spezifischen humanitären, rechtlichen und ethischen Risiken angemessen berücksichtigen. Aus diesem Grund fordert das IKRK neue, rechtsverbindliche internationale Regeln, um inakzeptable autonome Waffen zu verbieten und allen anderen Waffen strenge Grenzen zu setzen.

Autonome Waffen sind nicht zwingend rechtswidrig. Das humanitäre Völkerrecht gilt genauso für den Einsatz autonomer Waffen wie auch für jede andere Waffe. 

Es verbietet bestimmte Waffenarten, darunter Waffen, die von Natur aus unterschiedslos angreifen. Dies gilt insbesondere für autonome Waffen mit einer undurchsichtigen Funktionsweise (die sogenannte „Black-Box“-Challenge), die Menschen daran hindern können, die Ergebnisse des Systems zu verstehen, vorherzusagen oder zu erklären. Diejenigen, die solche Waffen einsetzen, können nicht beeinflussen, sie gegen ein bestimmtes militärisches Ziel zu richten, was in der Tat zu einer mangelnden Kontrolle über die Auswirkungen der Waffe führt; so gilt eine solche Waffe von Natur aus als unterschiedslos.

Jeder Angriff mit einer Waffe muss auch den Vorschriften des HVR mit Blick auf die Durchführung von Kampfhandlungen entsprechen: Er darf nur auf ein bestimmtes militärisches Ziel gerichtet sein, er darf keine übermässigen zivilen Kollateralschäden verursachen und es müssen alle erdenklichen Vorkehrungen getroffen werden, um zivile Schäden zu vermeiden. Mit autonomen Waffen sind diese Dinge jedoch im Voraus schwer zu beurteilen bzw. sicherzustellen, da der Anwender weder bestimmte Personen oder bestimmte Objekte auswählt, die einen Angriff durch das autonome Waffensystem auslösen, noch genau weiss, wann und/oder wo der Angriff stattfindet. Diese Details hängen von den technischen Gegebenheiten (Sensoren, Software, Aktoren) des Waffensystems und dem sensorischen Input aus dem operativen Umfeld ab. 

Wie kann der Anwender dann sicherstellen, dass ein Angriff des Waffensystems sich nur gegen legitime militärische Ziele richtet und nicht gegen eine Zivilperson, einen Verletzten oder eine Person, die sich ergeben hat? Wie kann er im Voraus einschätzen, ob die Kollateralschäden gering bleiben, auch wenn sich die Lage am Boden zwischen Aktivierung und Einschlag verändern könnte? Und was passiert, wenn sich herausstellt, dass das Ziel nicht militärischer Natur ist? Im HVR ist festgelegt, dass alles getan werden muss, um einen solchen Angriff abzubrechen oder auszusetzen – allerdings ist das bei einem Einsatz autonomer Waffen vielleicht nicht möglich.

Diesen rechtlichen Verpflichtungen mit autonomen Waffen nachzukommen, ist wahrscheinlich nur möglich, wenn bestimmte Arten von autonomen Waffen gänzlich verboten werden und die operativen Einsatzbereiche für andere Waffen strengen Auflagen unterliegen, um die möglichen Folgen zu begrenzen.

Aus diesem Grund fordern das IKRK und viele andere Organisationen neue, rechtsverbindliche Regeln, die unberechenbare autonome Waffen sowie autonome Antipersonenwaffen verbieten und allen anderen strenge Grenzen setzen.

Nicht alle Kampfdrohnen sind autonome Waffen. 

Eine Kampfdrohne, die von einem menschlichen Anwender aus der Ferne gesteuert wird, der das Ziel identifiziert und darüber entscheidet, wann sie abzufeuern ist, ist keine autonome Waffe. Aber eine Drohne kann zu einer autonomen Waffe werden, wenn sie nach ihrer Aktivierung ohne menschliches Zutun ein spezifisches Ziel auswählt und einen Angriff startet. 

Entscheidend ist nicht, ob die Waffe autonom fliegt, sondern ob sie bei kritischen Funktionen wie der Auswahl eines Ziels und der Anwendung von Gewalt auf ebendieses Ziel autonom handelt.

Nicht alle autonomen Waffensysteme berücksichtigen künstliche Intelligenz (KI). 

Autonome Waffensysteme umfassen einfache bis hochkomplexe Systeme, die sich auf KI stützen können, darunter maschinelles Lernen (d.h. wenn das System Muster aus Daten ableitet und diese Muster zur Ausführung einer bestimmten Aufgabe verwendet). So können Luftverteidigungssysteme autonom sein, wobei sie im Allgemeinen einfache, regelbasierte Software anstelle von KI verwenden. 

Andere Waffensysteme können KI enthalten, jedoch nicht bei der Auswahl von Zielen und bei Angriffen auf diese Ziele. Ein Waffensystem, das KI nur für die Navigation verwendet, gilt nicht zwingend als autonome Waffe.

Autonome Waffen sind bereits Realität. Sie reichen von Verteidigungssystemen, die automatisch eintreffende Raketen angreifen, bis hin zu bestimmten Lenkwaffen und Suchzündermunition. Die Bedenken des IKRK richten sich auf den Trend, Systeme für grössere Bereiche, längere Zeiträume und gegen ein breiteres Spektrum von Zielen einzusetzen und dabei immer komplexere Formen künstlicher Intelligenz zu berücksichtigen. 

Solche militärischen und technischen Entwicklungen bergen eine zusätzliche Unberechenbarkeit sowohl in Bezug auf die Funktionsweise der autonomen Waffen als auch auf ihre Interaktion mit dem operativen Umfeld, was erhebliche Risiken für die Zivilbevölkerung und zivile Objekte in bewaffneten Konflikten mit sich bringt. 

Während die Befürworter neuer Waffentechnologien oft behaupten, dass solche Waffen das Potenzial haben, die Einhaltung des humanitären Völkerrechts zu verbessern und Risiken für die Zivilbevölkerung zu verringern, zeichnen Vergangenheit und Gegenwart ein anderes Bild.

In vielen lang andauernden Konflikten weltweit, bei denen die technologisch ausgereiftesten Mittel der Kriegsführung zum Einsatz kommen, hat das IKRK keine Verbesserung für die Zivilbevölkerung beobachten können, sondern vielmehr ein weitverbreitetes und inakzeptables Ausmass ziviler Schäden und Zerstörung. Die Eigenschaften, mit denen für die neuen Technologien geworben wird, haben nicht zu Präzision, Unterscheidung und Vorsorge geführt, sondern zu einer Beschleunigung, Verstärkung und Eskalation der Zerstörung – mit verheerenden Folgen für die Zivilbevölkerung.

Dies schafft ein zunehmend unberechenbares Umfeld, das die Gefahr von Schäden für die Zivilbevölkerung erhöht. Es unterstreicht die Notwendigkeit klarer Verbote und Beschränkungen für autonome Waffensysteme, um Praktiken zu verhindern, die den Schutz untergraben, den das humanitäre Völkerrecht gewährleisten soll.

Autonome „Antipersonen“-Waffensysteme sind Waffen, die Menschen direkt auswählen und angreifen können. 

Das IKRK hält diese Systeme für besonders besorgniserregend, da Signale, die auf den Status einer Person in einem bewaffneten Konflikt hinweisen – beispielsweise, ob sich eine Person ergibt, verletzt oder direkt an Kampfhandlungen beteiligt ist –, äusserst kontextbezogen sind. Dies macht die Erkennung durch einen maschinellen Prozess äusserst schwierig. Darüber hinaus kann sich dieser Status schnell verändern, sodass es im Allgemeinen zu tragischen Folgen kommt.

Es ist daher schwierig, sich realistische Kampfsituationen vorzustellen, in denen der Einsatz von AWS gegen Menschen kein erhebliches Risiko von Verstössen gegen das HVR birgt.

Jenseits der operativen und rechtlichen Risiken stellt sich eine grundlegende Frage: Sollte eine Maschine jemals bestimmen dürfen, ob ein Mensch leben darf oder sterben muss? Nur Menschen können den intrinsischen Wert menschlichen Lebens erkennen und verstehen. Nimmt eine Maschine anhand von Sensordaten und einem Zielprofil eine Person ins Visier, würde diese schlicht auf Datenpunkte reduziert. Der Raum für menschliches Urteilsvermögen und moralische Zurückhaltung würde komplett beseitigt. Dies ist eine moralische rote Linie, die wir nicht überschreiten dürfen, unabhängig davon, wie präzise die Technologien noch werden.

Die Erfahrungen mit anderen Antipersonenwaffen (z.B. Antipersonenminen) zeigen, dass solche Waffen – selbst wenn sie theoretisch gemäss dem HVR eingesetzt werden können – in den allermeisten Fällen eben nicht im Einklang mit dem HVR verwendet werden. Ein komplettes Verbot ist daher die praktischste und wirksamste Lösung, die dem Militär Klarheit und Verlässlichkeit verschafft und Kombattanten und der Zivilbevölkerung den notwendigen Schutz bietet.

Unberechenbare AWS sind Systeme, bei denen ein menschlicher Anwender die Funktionsweise und die Auswirkungen des Systems nicht verstehen, berechnen oder erklären kann. Dies ist vor allem dann der Fall, wenn AWS KI so berücksichtigen, dass ihre Funktionsweise undurchsichtig wird (die sogenannte „Black Box“-Herausforderung). 

Die aus der mangelnden Berechenbarkeit resultierende fehlende Kontrolle über die Auswirkungen dieser Waffen macht sie von Natur aus zu Waffen, die ohne Unterscheidung angreifen – genau das ist gemäss dem HVR verboten.

Ein komplettes Verbot ist daher die praktischste und wirksamste Lösung, welche die zum Schutz der Zivilbevölkerung und zur Einhaltung der Regeln im Krieg notwendige Fähigkeit zur Unterscheidung bietet.

Der Trend zu immer mehr Autonomie bei Waffen und einer Lockerung der operativen Beschränkungen ist bereits eindeutig zu sehen. Die Schere zwischen dem, was Maschinen tun können, und dem, was Maschinen tun sollten, vergrössert sich zunehmend. 

Die Präsidentin des Internationalen Komitees vom Roten Kreuz, Mirjana Spoljaric, und der Generalsekretär der Vereinten Nationen, António Guterres, haben am 25. August in einem gemeinsamen Appell an die Staats- und Regierungschefs der Welt ihre Forderung erneuert, dringend neue internationale Regeln für autonome Waffensysteme zu verabschieden, und davor gewarnt, dass wir uns jetzt gefährlich nahe daran befinden, eine moralische rote Linie zu überschreiten: Die autonome Zielerfassung von Menschen durch Maschinen. 

Auch die Wissenschaftler und Ingenieure, die diese Systeme bauen, schlagen bereits Alarm und drängen auf Regeln. Daher kann es sich die Welt nicht leisten zu warten, bis ihr Einsatz überall verbreitet ist, und zuzulassen, dass infolge eines zögerliches Handelns die Technologien und ihr Einsatz die nötigen Regulierungsmassnahmen überholen.

Ohne rechtzeitige internationale Massnahmen zur Festlegung klarer rechtlicher und ethischer Grenzen besteht die Gefahr, dass inakzeptable autonome Waffen entwickelt und verbreitet werden. Wenn solche Waffen erst einmal weit verbreitet sind, werden die Risiken für die Zivilbevölkerung und die globale Sicherheit weitaus schwieriger einzudämmen sein.

2026 ist ein entscheidendes Jahr. Bei der siebten Konferenz zur Überprüfung des Übereinkommens über bestimmte konventionelle Waffen (UN-Waffenkonvention) vom 16. bis 20. November 2026 haben die Staaten die einmalige Gelegenheit, von Diskussionen zu Verhandlungen über neue internationale Regeln zur Regelung autonomer Waffensysteme überzugehen. Die bestehenden Grundsätze des humanitären Völkerrechts gelten für autonome Waffen, aber mit neuen Regeln könnten Grenzen festgelegt werden, bevor sich problematische Einsatzpraktiken verfestigen.

Das IKRK ruft die Staaten auf, ein rechtsverbindliches internationales Instrument auszuhandeln, das Folgendes umfasst: 

• Das Verbot von zwei Arten autonomer Waffensysteme: 
  • AWS, die in ihren Auswirkungen unberechenbar sind – dies ist wahrscheinlich der Fall, wenn Systeme Arten von KI enthalten, die unter denselben Umständen verschiedene Ergebnisse erzielen können.
  • AWS, die darauf ausgelegt sind, Menschen direkt anzugreifen (autonome Antipersonenwaffen).
• Beschränkungen für alle anderen autonomen Waffen, einschliesslich der Beschränkung der Art der Ziele auf ausschliesslich militärische Ziele, der Beschränkung des geografischen Einsatzbereichs, der Dauer, der Situationen und des Umfangs ihres Einsatzes sowie der Einführung wirksamer Mittel zur Neutralisierung, Deaktivierung oder Vernichtung dieser Waffen.

Für das IKRK sind diese Regeln für den Umgang mit den humanitären, rechtlichen und ethischen Risiken von autonomen Waffensystemen von entscheidender Bedeutung. Das IKRK fordert kein generelles Verbot aller AWS oder von KI in jeglichen Waffensystemen, da es anerkennt, dass KI in bestimmten Fällen nützlich sein kann, z.B. um Waffen präziser zu steuern.