Anzeige

Die Angst vor KI wächst – vor allem bei den Entwicklern

30. Juli 2026

Über 1100 Mitarbeitende von OpenAI, Anthropic, Google und Meta fordern international abgestimmte Werkzeuge, um die KI-Entwicklung notfalls gezielt bremsen zu können. Zwei US-Abgeordnete gehen mit einem eigenen Gesetzentwurf für einen Not-Aus-Knopf noch weiter.
Anzeige
Anzeige


Stellen Sie sich vor, Mitarbeitende von Volkswagen, Mercedes und BMW würden die Bundesregierung darum bitten, dass Autos künftig nur noch in kleinen Schritten verbessert werden dürfen. Was unfassbar klingt, erleben wir gerade in den USA. Dort geht es allerdings nicht um Autos, sondern um KI.

Konkret: Über 1 100 Mitarbeitende von OpenAI, Anthropic, Meta und Google fordern in einem offenen Brief eine Verlangsamung der KI-Entwicklung. Die Trump-Administration möge sich einer internationalen Initiative anschließen, die eine gezielte Verlangsamung der Entwicklung fortschrittlicher KI ermöglichen soll. Die Initiative trägt den Namen „Pacing the Frontier“.

Anzeige
Anzeige

Lesetipp: Roboter-Start-up Humanoid wird zum Einhorn – auch Bosch und Schaeffler steigen ein (öffnet in neuem Fenster)

Laut Reuters gehören zu den Unterzeichnern unter anderem Dario Amodei, Anthropic-CEO, Shengjia Zhao, Chief Scientist bei Meta AI, KI-Forscherin Dawn Song sowie OpenAIs Chief Scientist Jakub Pachocki.

Inhaltsverzeichnis

Sorge vor sich selbst verbessernden KI-Systemen

Der Brief konzentriert sich laut Online-Portal Trending Topics auf einen entscheidenden Wendepunkt: den Moment, in dem KI-Systeme die Entwicklung neuer KI-Systeme selbst übernehmen können. Bereits heute stamme ein erheblicher Teil des innerhalb von Technologieunternehmen geschriebenen Programmcodes von KI-Systemen – bislang allerdings unter menschlicher Aufsicht.

Anzeige
Anzeige

Wie stark sich der Fortschritt beschleunigen könnte, wenn auch dieser Prozess automatisiert würde, lässt sich nur schwer vorhersagen. Nach Ansicht der Unterzeichner besteht jedoch ein „reales Risiko“, dass das Entwicklungstempo die Fähigkeit der Menschen übersteigen könnte, diese Systeme noch zu verstehen oder zu kontrollieren. Gerade weil Staaten und Unternehmen im internationalen Wettbewerb unter Druck stehen, seien koordinierte internationale Maßnahmen erforderlich.

Lesetipp: Zwei deutsche Firmen machen Humanoide gelenkig (öffnet in neuem Fenster)

Anzeige
Anzeige

OpenAI erklärte auf X, dass die Entwicklung von Spitzenmodellen irgendwann so schnell verlaufen könnte, dass die Welt das Tempo bewusst begrenzen müsse. Anthropic verwies auf eigene Forschungsergebnisse zur rekursiven Selbstverbesserung von KI-Systemen, die nach Ansicht des Unternehmens die Notwendigkeit entsprechender Steuerungsinstrumente unterstreichen.

Kommt der „AI Kill Switch Act“ noch rechtzeitig?

Die zwei US-Abgeordneten Ted Lieu und Nathaniel Moran hatten schon am 23. Juli 2026 den sogenannten „AI Kill Switch Act“ in das US-Repräsentantenhaus eingebracht. Der Entwurf soll dem US-Heimatschutzministerium DHS die Befugnis geben, leistungsfähige KI-Modelle kontrolliert zu drosseln oder abzuschalten, wenn eine unmittelbare Gefahr für Menschenleben oder die Wirtschaft besteht.

Dabei muss eine Frage erlaubt sein: Wird sich eine KI, die auf Abwege geraten ist, im Notfall tatsächlich einfach ausschalten lassen? Oder weiß sie längst vom Not-Aus-Knopf – und hat Vorkehrungen dagegen getroffen?



Ein Beitrag von:

Anzeige
Anzeige
Bauingenieur (m/w/d) als Produktmanager Weiterbildung
Bildungszentren des Baugewerbes e.V. (BZB)

Teamleitung Verkehr & Wasser (w/m/x)
Sweco GmbH

Hardware- und Firmware-Entwickler (m/w/d)
AWITE Bioenergie GmbH

Projektleiter (m/w/d)
Frozen Fish International GmbH

Quality Manager (m/w/d)
SEG Electronics GmbH

Ingenieur für Netzanschlussregeln (m/w/d)
TenneT

Ingenieurin oder Ingenieur konstruktiver Ingenieurbau (w/m/d)
Die Autobahn GmbH des Bundes

Ingenieur Fassadenplanung (m/w/d)
Werner Sobek AG

Automatisierungstechniker (m/w/d)
Fiberboard GmbH

Vertriebsingenieur / Technical Sales Manager (m/w/d)
Delphin Technology AG

Produktionsleiter (m/w/d)
SPRiNTUS GmbH

Systemingenieur / Schiffstechniker HVAC – Yachtbau (m/w/d)
Lürssen Werft Rendsburg GmbH & Co. KG

Bauingenieur (w/m/d) Straßenplanung und Straßenentwurf – Außenstelle Netphen (nahe Siegen)
Die Autobahn GmbH des Bundes

Bauingenieur (w/m/d) Konstruktiver Ingenieurbau/ Brückenbau
Die Autobahn GmbH des Bundes

Bauingenieur (w/m/d) konstruktiver Ingenieurbau – Außenstelle Netphen (nahe Siegen)
Die Autobahn GmbH des Bundes

Konstrukteur Möbel- oder Sonderfahrzeugbau (all genders welcome)
BFE Studio und Medien Systeme GmbH

Leitung Entwicklung (m/w/d)
Memmert GmbH + Co. KG

Ingenieur Netz- und Systemführung HVDC & Offshore (m/w/d)
TenneT

Professur (W2): Technische Mechanik
Hochschule Merseburg

Planungs-/ Bauingenieur (m/w/d) für Energieinfrastruktur
voltfang

Weitere Artikel



Firmenprofile

Anzeige
Anzeige