Was die Sperrung von Anthropics KI-Modellen durch US-Regierung für Europa bedeutet
US-Sperre für Anthropics KI-Modelle zeigt Deutschlands Abhängigkeit von US-Technologie. Wie ein Weg zu europäischer digitaler Souveränität aussehen könnte.
Die US-Regierung zwingt das KI-Unternehmen Anthropic zur Sperrung der neuesten KI-Modelle.
Foto: picture alliance / NurPhoto | Matteo Della Torre
Am 12. Juni ordnete die US-Regierung an, den Zugang zu den neuen KI-Modellen der Firma Anthropic über eine US-Exportkontrollverordnung weltweit für alle ausländischen Staatsangehörigen einzuschränken. Um diese kurzfristige gesetzliche Anordnung umzusetzen, hat Anthropic eigenen Aussagen zufolge den Zugang zu den beiden KI-Modellen Mythos 5 und Fable 5 ganz abgestellt. Der Vorfall macht Europas Abhängigkeit bei Spitzen-KI deutlich, aus der es Fachleuten zufolge keinen Ausweg gibt – zumindest keinen einfachen. Auch zweifeln Experten daran, dass die Sperrung technische Gründe hat.
Inhaltsverzeichnis
Ersten Berichterstattungen zufolge war der Auslöser für die Anordnung der US-Regierung ein Forschungsbericht von Amazon zu Fable 5, einer abgespeckten Variante von Mythos 5. Die sprunghaft verbesserten Fähigkeiten der neuen KI-Generation machen sie zu einem starken Werkzeug für Cyberangriffe – und Cyberabwehr. Laut Amazon ist es möglich, Sicherheitsvorkehrungen der Modelle zu umgehen, was in der Fachsprache als „jailbreaking“ bezeichnet wird.
Der genaue Grund für die Sperre ist zurzeit jedoch noch nicht ausreichend belegt. „Ich denke, dass hier auch die vorangehenden Auseinandersetzungen der US-Regierung mit Anthropic eine Rolle spielen“, sagt Jonas Geiping, der die Forschungsgruppe zum KI-Training am Max-Planck-Institut für Intelligente Systeme in Tübingen leitet. Vor Kurzem hatte sich Anthropic geweigert, die eigenen Modelle für Kampfroboter und zur Überwachung der Bevölkerung im Auftrag der US-Regierung einzusetzen. Auch Amazons Position und deren Motive seien von außen schwer einzuschätzen, sagt Geiping. „Sie sind selbst sowohl Wettstreiter mit als auch Investoren in Anthropic.“
Gibt es einen Ausweg aus der Abhängigkeit von US-KI-Unternehmen?
Der Fall schlägt hohe Wellen, weil die US-Regierung einfach eine weltweit genutzte Software gesperrt hat. „Deutschland und Europa sind beim Zugang zu den stärksten KI-Modellen vom Wohlwollen der US-Regierung abhängig, das hat die überraschende Anordnung am Wochenende mehr als deutlich gemacht“, schreibt Bitkom-Präsident Ralf Wintergerst. Er sieht die Leistungsfähigkeit von lokaler Wirtschaft und Wissenschaft bedroht. „Mehr denn je muss es jetzt darum gehen, Deutschland und Europa digital souverän zu machen“, fordert er.
Ob das gelingen kann, ist jedoch ein Streitthema. „Leider glaube ich nicht, dass mehr Investitionen in eine eigene europäische KI die Lösung sind“, sagt Paul Röttger, Dozent am Internet-Institut der Uni Oxford. „Europa wird nicht in der Lage sein, in Konkurrenz zu den USA Modelle wie Mythos oder Fable 5 zu entwickeln.“ Dazu wäre ein zunächst sehr schneller und großflächiger Aufbau von Rechenzentren notwendig – und ein echter Ausbau der Stromerzeugung, sagt auch Jonas Geiping. Das passiert jedoch nicht und ehemalige Hoffnungsträger tun sich zunehmend schwer: „Das französische Unternehmen Mistral ist über die vergangenen zwei Jahre stark zurückgefallen“, sagt der IT-Experte.
Airbus-Moment: Was kann Europa für digitale Souveränität tun?
Die aktuelle Lage könnte jedoch auch eine Chance für den europäischen Zusammenhalt sein, ist Gitta Kutyniok überzeugt. „Aus meiner Sicht braucht Europa jetzt einen ‚Airbus-Moment‘ für KI: gemeinsame, ambitionierte Investitionen in vertrauenswürdige KI-Infrastrukturen, Foundation-Modelle, Chipdesign und energieeffiziente Computing-Technologien“, so die Professorin für Mathematische Grundlagen der Künstlichen Intelligenz an der Uni München (LMU).
Wenn man Holger Hoos, Professor für Methodik der Künstlichen Intelligenz an der RWTH Aachen glaubt, steht solch eine Idee schon länger im Raum. Das KI-Netzwerk CAIRNE (Confederation of Laboratories for Artificial Intelligence Research in Europe) warne schon seit Jahren vor einer Abhängigkeit und habe einen Weg daraus entwickelt: „Die Einrichtung einer europäischen KI-Forschungs- und -Entwicklungsorganisation nach dem Vorbild der Europäischen Raumfahrtagentur (ESA) und der Europäische Organisation für Kernforschung (CERN). Dieser Schritt ist lange überfällig und sollte nun schleunigst in die Wege geleitet werden“, sagt er. Nicht nur EU-Mitgliedsländer sollten seiner Ansicht nach daran beteiligt werden, sondern auch „KI-Mittelmächte“ wie Grobrittanien, Kanada, Indien und Brasilien.
Kurzfristig scheint es jedoch keinen Weg aus der Abhängigkeit zu geben. „Den Zugang zu solchen Modellen aus den USA gilt es daher vertraglich abzusichern, etwa in Verbindung mit Investitionen in Rechenzentren“, lautet der pragmatische Ansatz von KI-Experten Paul Röttger. „Zugleich gilt es, die Kosten von Sperrungen für die USA zu erhöhen, etwa durch glaubhafte Drohungen mit handelspolitischen Konsequenzen.“
Experten zweifeln an technischer Ursache für die Sperrung
Die Experten sind sich auch einig, dass die Sperrung wieder aufgehoben wird, falls es tatsächlich um Bedenken bei Cybersicherheit geht. Andreas Hotho, Professor für Data Science an der Uni Würzburg zweifelt jedoch daran, denn auch andere KI-Modelle, etwa das Modell GPT-5.5 von OpenAI könne Schwachstellen effektiv finden und ausnutzen. „Dass aber ausgerechnet bei den Ergebnissen des Anthropic-Modells eine Linie überschritten sein soll, die ein nationales Sicherheitsrisiko darstellt, finde ich doch etwas fragwürdig.“ Auch Thorsten Holz, wissenschaftlicher Direktor des Max-Planck-Instituts für Sicherheit und Privatsphäre ist skeptisch. „Solange die technische Grundlage nicht offengelegt wird, lässt sich nicht objektiv beurteilen, ob hier eine außergewöhnliche Sicherheitslücke, allgemeine Dual-Use-Sorgen oder auch politische und wirtschaftliche Konflikte ausschlaggebend waren.“
Absolut sichere KI wäre wahrscheinlich zugleich nutzlos
Fable 5 ist eine erste öffentlich zugängliche Version der neuen Generation, ein abgespecktes Modell von Mythos. „Es ist um zusätzliche Sicherheitsmaßnahmen ergänzt, die einen Missbrauch, etwa zur Cyberkriminalität, verhindern sollen“, sagt Röttger. Diese böten aber nie einen absoluten Schutz, weiß er aus Erfahrung, denn Fachleute hätten bisher zu jedem KI-Modell auch einen Jailbreak gefunden.
Zudem hat Sicherheit bei KI-Modellen einen hohen Preis. „Es ist keineswegs eindeutig, ob es ein vollkommen gegen Jailbreaks immunes – und zugleich noch nützliches – KI-Modell überhaupt geben kann.“ Denn im Zweifel müssten Modelle dann die Antwort verweigern, wenn irgendwie die Möglichkeit besteht, dass die Infos kriminell genutzt werden. Denn neben Hackern suchen auch Softwareentwickler nach Schwachstellen im Code – jedoch um diese zu beheben. Welche Motivation hinter einer Anfrage steht, kann die KI aktuell aber nicht wissen.
Falls Sie eine fachliche Einschätzung dazu interessiert, welche Auswirkungen die neuen KI-Modelle auf IT-Sicherheit haben, lesen Sie auch diesen Text: Anthropic KI „Claude Mythos“: Wie gefährlich ist die neue Hacker-KI?
Ein Beitrag von:
