KI im Militär: Mehrheit fordert menschliche Kontrolle über autonome Waffensysteme

„Moderne Streitkräfte kommen an modernen Verteidigungssystemen mit Künstlicher Intelligenz nicht vorbei. Entscheidend ist, dass die Politik für ihren Einsatz klare Leitplanken definiert“, sagt Joachim Bühler, Geschäftsführer des TÜV-Verbands. Im Auftrag des TÜV-Verbands hat Forsa deshalb 1005 Personen ab 16 Jahren befragt.

Bühler fast das Ergebnis so zusammen: „Die Bürgerinnen und Bürger erkennen, dass neue Technologien auch die sicherheitspolitische Lage verändern.“ Demnach befürwortet eine Mehrheit der Bevölkerung, dass die Bundeswehr verstärkt in moderne Waffensysteme investiert. Dazu zählen beispielsweise Kampf- und Aufklärungsdrohnen, die mit Hilfe von Künstlicher Intelligenz (KI) weitgehend autonom agieren können.

Laut Umfrage finden vier von fünf Befragten (81 %) es grundsätzlich sinnvoll, dass die Bundeswehr stärker in militärische KI-Technologien investiert. Dazu zählen Drohnen, Roboter oder autonome Fahrzeuge. Dagegen lehnen 11 % das ab und 8 % sind unentschieden.

Fehentscheidungen der KI und Wettrüsten werden befürchtet

Bühler macht aber auch deutlich: „Die Bevölkerung sieht beim militärischen Einsatz von KI nicht nur Effizienz- und Verteidigungspotenziale, sondern auch erhebliche Risiken.“ Zwei Dritteln (67 %) der Befragten befürchten Fehlentscheidungen. Autonome Systeme könnten beispielsweise Ziele falsch erkennen. Zudem sehen 64 % die Gefahr, dass der Mensch die Kontrolle über KI-gesteuerte Waffensysteme verlieren könnte.

Ähnlich hoch ist die Furcht vor einer Eskalation. So haben 63 % Sorgen vor wachsenden Spannungen durch ein internationales Wettrüsten mit KI-Technologien. Und: 61 % halten ungewollte Eskalationen oder eine Ausweitung von Konflikten für ein realistisches Risiko.

„Gerade bei autonomen Systemen fürchten die Befragten einen Kontrollverlust, der zur Entstehung oder Ausweitung militärischer Konflikte führen kann“, fasst das der Geschäftsführer des TÜV-Verbandes zusammen.

Menschliche Kontrolle für autonome KI-Systeme

In Deutschland gilt offiziell, dass der Einsatz von autonomen Systemen von Menschen überwacht werden muss. Das gilt auch für das Militär sowie Sicherheitskräfte wie die Polizei. Dennoch wurde auch gefragt, wer künftig über den Einsatz von Waffengewalt im Verteidigungsfall entscheiden soll: Der Mensch oder das KI-System. Vier von zehn Befragten (40 %) sprechen sich für eine vollständige menschliche Kontrolle aus. Danach müsse jede einzelne Entscheidung eines KI-Systems überprüft werden.

Den Einsatz teilautonomer Systeme befürworteten dagegen 41 %. In der Praxis würde das bedeuten: Die Waffensysteme erstellen Analysen. Sie machen Vorschläge und treffen eigenständig Entscheidungen. Menschen können aber jederzeit eingreifen.

Nur 1 % billigt vollautonome Systeme ohne menschliche Kontrolle. Grundsätzlich lehnen 12 % es ab, den KI-Systemen Entscheidungsbefugnisse über den Einsatz von Waffengewalt einzuräumen. Umgekehrt erwarten somit 81 % der Befragten, dass der Mensch die Letztverantwortung trägt.

Mit Verweis auf den AI-Act der EU, der den Einsatz künstlicher Intelligenz generell Regelt, sagt Bühler: „Der AI Act adressiert auch die technische Sicherheit von KI-Systemen. Themen wie Qualität der Trainingsdaten, menschliche Aufsicht oder Nachvollzieharbeit von Entscheidungen, sind sowohl für zivile als auch für militärische KI-Anwendungen essenziell.“ Im Kern müsse es nun darum gehen, auf allen Ebenen einen verantwortungsvollen Umgang mit sicherheitskritischen Technologien zu finden.

Der Geschäftsführer des TÜV-Verbands hat dazu eine klare Meinung: „Verteidigungsfähigkeit bedeutet nicht, Maschinen die Entscheidung über Leben und Tod zu überlassen. Sie bedeutet, Technologie so zu gestalten, dass sie unsere Sicherheit stärkt, ohne die menschliche Hoheit aufzugeben.“

Mit Informationen des TÜV-Verbands.