Weniger Panik, mehr Souveränität: Was es aus den 18 Tagen Anthropic-Sperrung zu lernen gibt
Anthropics KI-Modelle sind wieder entsperrt. Die IT-Sicherheit war nicht ernsthaft gefährdet, aber Deutschlands Abhängigkeit bleibt ernst. Wie ein Weg zu europäischer digitaler Souveränität aussehen könnte.
Die US-Regierung zwingt das KI-Unternehmen Anthropic zur Sperrung der neuesten KI-Modelle.
Foto: picture alliance / NurPhoto | Matteo Della Torre
Ganze mehr als zwei Wochen lang waren ohne Vorwarnung die neuesten Modelle der US-KI-Firma Anthropic auf Anordnung der US-Regierung für alle Kunden weltweit gesperrt worden, weil es Forschern von Amazon gelungen war Sicherheitsmechanismen in der KI zu umgehen. Seit 1. Juli funktioniert der Zugang zu den beiden stärksten KI-Modellen Mythos 5 und Fable 5 nun wieder.
Während auf der technischen Seite das Problem laut Anthropic nicht so gravierend war, ist es auf der politischen Seite ernst. Der Vorfall machte Europas starke Abhängigkeit bei Spitzen-KI deutlich, aus der es Fachleuten zufolge keinen schnellen Ausweg gibt. Auch zweifeln Experten daran, dass die Sperrung technische Gründe hatte.
Inhaltsverzeichnis
Der Auslöser für die Anordnung der US-Regierung war ein Forschungsbericht von Amazon zu Fable 5, einer abgespeckten Variante von Mythos 5. Die sprunghaft verbesserten Fähigkeiten der neuen KI-Generation machen sie zu einem starken Werkzeug für Cyberangriffe – und Cyberabwehr. Laut Amazon war möglich, Sicherheitsvorkehrungen der Modelle zu umgehen, was in der Fachsprache als „jailbreaking“ bezeichnet wird. Im Nachhinein schreibt Anthropic aber, dass es sich dabei nicht um einen gravierenden Jailbreak gehandelt habe. Da es bisher noch kein System zur Einstufung dieser KI-Sicherheitslücken gibt, scheint die US-Regierung direkt vom Schlimmsten ausgegangen zu sein und verhängte die weltweite Sperrung.
Die harte Maßnahme hatte bei Experten Zweifel an einer technischen Ursache geschürt. „Ich denke, dass hier auch die vorangehenden Auseinandersetzungen der US-Regierung mit Anthropic eine Rolle spielen“, sagte Jonas Geiping, der die Forschungsgruppe zum KI-Training am Max-Planck-Institut für Intelligente Systeme in Tübingen leitet. Kurz vor der Sperrung hatte sich Anthropic geweigert, die eigenen Modelle für Kampfroboter und zur Überwachung der Bevölkerung im Auftrag der US-Regierung einzusetzen.
Auch Amazons Position und deren Motive seien von außen schwer einzuschätzen, sagt Geiping. „Sie sind selbst sowohl Wettstreiter mit als auch Investoren in Anthropic.“ Andreas Hotho, Professor für Data Science an der Uni Würzburg stellt klar, dass auch andere KI-Modelle, etwa das Modell GPT-5.5 von OpenAI Schwachstellen effektiv finden und ausnutzen können. „Dass aber ausgerechnet bei den Ergebnissen des Anthropic-Modells eine Linie überschritten sein soll, die ein nationales Sicherheitsrisiko darstellt, finde ich doch etwas fragwürdig.“
Gibt es einen Ausweg aus der Abhängigkeit von US-KI-Unternehmen?
Der Fall schlug politisch hohe Wellen, weil die US-Regierung einfach eine weltweit genutzte Software gesperrt hat. „Deutschland und Europa sind beim Zugang zu den stärksten KI-Modellen vom Wohlwollen der US-Regierung abhängig, das hat die überraschende Anordnung am Wochenende mehr als deutlich gemacht“, schrieb Bitkom-Präsident Ralf Wintergerst. Er sieht dadurch die Leistungsfähigkeit von lokaler Wirtschaft und Wissenschaft bedroht. „Mehr denn je muss es jetzt darum gehen, Deutschland und Europa digital souverän zu machen“, forderte er.
Hersteller Anthropic hat nun die Sicherheitsvorkehrungen verbessert und betont, die Regierung künftig besser einzubinden. Eine Sperrung auf Basis eines Missverständnisses wird so zwar unwahrscheinlicher. Dass Europa den USA bei dieser Technologie ausgeliefert ist, daran ändert sich jedoch nichts.
Aktuell fällt Europa bei Spitzen-KI-Modellen zurück
Ob Europa bei KI-Technologie überhaupt wieder souverän werden kann, ist jedoch ein Streitthema. „Leider glaube ich nicht, dass mehr Investitionen in eine eigene europäische KI die Lösung sind“, sagt Paul Röttger, Dozent am Internet-Institut der Uni Oxford. „Europa wird nicht in der Lage sein, in Konkurrenz zu den USA Modelle wie Mythos oder Fable 5 zu entwickeln.“
Dazu wäre ein zunächst sehr schneller und großflächiger Aufbau von Rechenzentren notwendig – und ein echter Ausbau der Stromerzeugung, sagt auch Jonas Geiping. Das passiert jedoch nicht und ehemalige Hoffnungsträger tun sich zunehmend schwer: „Das französische Unternehmen Mistral ist über die vergangenen zwei Jahre stark zurückgefallen“, sagt der IT-Experte.
Airbus-Moment: Was kann Europa für digitale Souveränität tun?
Der Vorfall könnte jedoch auch eine Chance für den europäischen Zusammenhalt sein, ist Gitta Kutyniok überzeugt. „Aus meiner Sicht braucht Europa jetzt einen ‚Airbus-Moment‘ für KI: gemeinsame, ambitionierte Investitionen in vertrauenswürdige KI-Infrastrukturen, Foundation-Modelle, Chipdesign und energieeffiziente Computing-Technologien“, so die Professorin für Mathematische Grundlagen der Künstlichen Intelligenz an der Uni München (LMU).
Wenn man Holger Hoos, Professor für Methodik der Künstlichen Intelligenz an der RWTH Aachen glaubt, steht solch eine Idee schon länger im Raum. Das KI-Netzwerk CAIRNE (Confederation of Laboratories for Artificial Intelligence Research in Europe) warne schon seit Jahren vor einer Abhängigkeit und habe einen Weg daraus entwickelt: „Die Einrichtung einer europäischen KI-Forschungs- und -Entwicklungsorganisation nach dem Vorbild der Europäischen Raumfahrtagentur (ESA) und der Europäische Organisation für Kernforschung (CERN). Dieser Schritt ist lange überfällig und sollte nun schleunigst in die Wege geleitet werden“, sagt er. Nicht nur EU-Mitgliedsländer sollten seiner Ansicht nach daran beteiligt werden, sondern auch „KI-Mittelmächte“ wie Grobrittanien, Kanada, Indien und Brasilien.
Kurzfristig scheint es jedoch keinen Weg aus der Abhängigkeit zu geben. „Den Zugang zu solchen Modellen aus den USA gilt es daher vertraglich abzusichern, etwa in Verbindung mit Investitionen in Rechenzentren“, lautet der pragmatische Ansatz von KI-Experten Paul Röttger. „Zugleich gilt es, die Kosten von Sperrungen für die USA zu erhöhen, etwa durch glaubhafte Drohungen mit handelspolitischen Konsequenzen.“
Beim Thema KI-Hardware könnte Europa hingegen aufholen, weil auf dem Feld des Neuromorphen Computings, noch so neu ist, dass das Rennen noch nicht entschieden ist. Hier entwickeln Start-Ups wie Axelera AI Chips, die den Stromverbrauch für KI deutlich senken, indem sie Prinzipien des menschlichen Gehirns in die Halbleitertechnik übertragen.
Anthropic schränkt die Nützlichkeit des Modells auf Kosten der Sicherheit ein
Fable 5 ist eine erste öffentlich zugängliche Version der neuen Generation, ein abgespecktes Modell von Mythos. „Es ist um zusätzliche Sicherheitsmaßnahmen ergänzt, die einen Missbrauch, etwa zur Cyberkriminalität, verhindern sollen“, sagt Röttger. Diese böten aber nie einen absoluten Schutz, weiß er aus Erfahrung, denn Fachleute hätten bisher zu jedem KI-Modell auch einen Jailbreak gefunden.
Zudem hat Sicherheit bei KI-Modellen einen hohen Preis. „Es ist keineswegs eindeutig, ob es ein vollkommen gegen Jailbreaks immunes – und zugleich noch nützliches – KI-Modell überhaupt geben kann.“ Denn im Zweifel müssten Modelle dann die Antwort verweigern, wenn irgendwie die Möglichkeit besteht, dass die Infos kriminell genutzt werden. Denn neben Hackern suchen auch Softwareentwickler nach Schwachstellen im Code – jedoch um diese zu beheben. Welche Motivation hinter einer Anfrage steht, kann die KI aktuell aber nicht wissen.
Genau das passiert nun bei Fable. Anthropic hat ein extra Klassifikator-KI-Modell trainiert, das den Super-Modellen vorgeschaltet ist und verdächtige Anfragen blockiert. „Der neue Klassifikator hat den Preis, dass gute Anfragen während Routine-Codingarbeit oder Debugging häufiger falsch als gefährlich markiert werden.“ Auf der anderen Seite konnte der Hersteller so die US-Regierung überzeugen, die Sperrung aufzuheben. KI-Nutzende werden informiert, wenn eine Anfrage blockiert und an ein weniger mächtiges Modell umgeleitet wurde.
Falls Sie eine fachliche Einschätzung dazu interessiert, welche Auswirkungen die neuen KI-Modelle auf IT-Sicherheit haben, lesen Sie auch diesen Text: Anthropic KI „Claude Mythos“: Wie gefährlich ist die neue Hacker-KI?
Ein Beitrag von:
