Die Angst vor KI wächst – vor allem bei den Entwicklern
Über 1100 Mitarbeitende von OpenAI, Anthropic, Google und Meta fordern international abgestimmte Werkzeuge, um die KI-Entwicklung notfalls gezielt bremsen zu können. Zwei US-Abgeordnete gehen mit einem eigenen Gesetzentwurf für einen Not-Aus-Knopf noch weiter.
Könnte (physische) KI außer Kontrolle geraten und sich gegen den Menschen richten. Der Chor der Bedenkenträger wird täglich lauter.
Foto: smarterpix / iakovenko123
Stellen Sie sich vor, Mitarbeitende von Volkswagen, Mercedes und BMW würden die Bundesregierung darum bitten, dass Autos künftig nur noch in kleinen Schritten verbessert werden dürfen. Was unfassbar klingt, erleben wir gerade in den USA. Dort geht es allerdings nicht um Autos, sondern um KI.
Konkret: Über 1 100 Mitarbeitende von OpenAI, Anthropic, Meta und Google fordern in einem offenen Brief eine Verlangsamung der KI-Entwicklung. Die Trump-Administration möge sich einer internationalen Initiative anschließen, die eine gezielte Verlangsamung der Entwicklung fortschrittlicher KI ermöglichen soll. Die Initiative trägt den Namen „Pacing the Frontier“.
Lesetipp: Roboter-Start-up Humanoid wird zum Einhorn – auch Bosch und Schaeffler steigen ein
Laut Reuters gehören zu den Unterzeichnern unter anderem Dario Amodei, Anthropic-CEO, Shengjia Zhao, Chief Scientist bei Meta AI, KI-Forscherin Dawn Song sowie OpenAIs Chief Scientist Jakub Pachocki.
Inhaltsverzeichnis
Sorge vor sich selbst verbessernden KI-Systemen
Der Brief konzentriert sich laut Online-Portal Trending Topics auf einen entscheidenden Wendepunkt: den Moment, in dem KI-Systeme die Entwicklung neuer KI-Systeme selbst übernehmen können. Bereits heute stamme ein erheblicher Teil des innerhalb von Technologieunternehmen geschriebenen Programmcodes von KI-Systemen – bislang allerdings unter menschlicher Aufsicht.
Wie stark sich der Fortschritt beschleunigen könnte, wenn auch dieser Prozess automatisiert würde, lässt sich nur schwer vorhersagen. Nach Ansicht der Unterzeichner besteht jedoch ein „reales Risiko“, dass das Entwicklungstempo die Fähigkeit der Menschen übersteigen könnte, diese Systeme noch zu verstehen oder zu kontrollieren. Gerade weil Staaten und Unternehmen im internationalen Wettbewerb unter Druck stehen, seien koordinierte internationale Maßnahmen erforderlich.
Lesetipp: Zwei deutsche Firmen machen Humanoide gelenkig
OpenAI erklärte auf X, dass die Entwicklung von Spitzenmodellen irgendwann so schnell verlaufen könnte, dass die Welt das Tempo bewusst begrenzen müsse. Anthropic verwies auf eigene Forschungsergebnisse zur rekursiven Selbstverbesserung von KI-Systemen, die nach Ansicht des Unternehmens die Notwendigkeit entsprechender Steuerungsinstrumente unterstreichen.
Kommt der „AI Kill Switch Act“ noch rechtzeitig?
Die zwei US-Abgeordneten Ted Lieu und Nathaniel Moran hatten schon am 23. Juli 2026 den sogenannten „AI Kill Switch Act“ in das US-Repräsentantenhaus eingebracht. Der Entwurf soll dem US-Heimatschutzministerium DHS die Befugnis geben, leistungsfähige KI-Modelle kontrolliert zu drosseln oder abzuschalten, wenn eine unmittelbare Gefahr für Menschenleben oder die Wirtschaft besteht.
Dabei muss eine Frage erlaubt sein: Wird sich eine KI, die auf Abwege geraten ist, im Notfall tatsächlich einfach ausschalten lassen? Oder weiß sie längst vom Not-Aus-Knopf – und hat Vorkehrungen dagegen getroffen?
