ChatGPT als Waffe 14.01.2025, 09:18 Uhr

Entwickler zeigt ChatGPT-gesteuertes Gewehr und wird gesperrt

Ein Ingenieur hat einen KI-gesteuerten Roboter erschaffen, der mit einem Gewehr Ziele erfasst und auf Sprachbefehle reagiert. Ein virales Video sorgt für Aufsehen und wirft Fragen zur Zukunft von KI-gesteuerten Waffensystemen auf.

ChatGPT

ChatGPT als Waffe: Entwickler erschafft automatisierten Roboter, der schießt.

Foto: PantherMedia / ramirezom

Ein Entwickler, der online unter dem Namen STS 3D bekannt ist, hat einen KI-gesteuerten Roboter entwickelt, der in der Lage ist, mit einem Gewehr Ziele zu erfassen und zu beschießen. Ein Video, das derzeit im Internet verbreitet wird, zeigt, wie der „Killerroboter“ dank der Integration von ChatGPT sogar auf Sprachbefehle reagiert.

Ein Video, das die Vorrichtung zeigt, sorgte in den sozialen Medien für Aufsehen und löste eine hitzige Debatte über die Umsetzung dystopischer Technologien aus, die an die „Terminator“-Filme erinnern.

Auf TikTok postete der Mann unter dem Namen STS 3D ein Video, in dem er zeigt, wie er ChatGPT verwendet, um ein Robotergewehr zu steuern. Er gibt präzise Anweisungen, wohin geschossen werden soll und wie das Schussmuster aussehen soll.

Maschine reagiert auf Befehl

Im Video ist zu sehen, wie der Entwickler die Befehle erteilt: „ChatGPT, wir werden von vorne links und vorne rechts angegriffen“, sagt er und fügt hinzu: „Reagieren Sie entsprechend.“ Fast sofort reagiert der Roboter und feuert in die jeweiligen Richtungen, wobei die abgefeuerten Objekte wie Platzpatronen wirken. Daraufhin antwortet die Maschine: „Wenn Sie weitere Hilfe benötigen, lassen Sie es mich einfach wissen.
Laut einem Bericht des US-Magazins „Futurism“ ist bisher unklar, wie genau STS 3D ChatGPT in sein Projekt integriert hat und auf welche Weise die Technologie funktioniert.

Stellenangebote im Bereich Softwareentwicklung

Softwareentwicklung Jobs
Industriepark Nienburg GmbH-Firmenlogo
Ingenieur (m/w/d) Elektrotechnik als Leiter Elektrotechnik & Automation Industriepark Nienburg GmbH
Nienburg Zum Job 
Evonik Operations GmbH-Firmenlogo
EMR-Anlageningenieur (m/w/d) mit Sonderqualifikation Evonik Operations GmbH
Rheinfelden (Baden) Zum Job 
CR3-Kaffeeveredelung M. Hermsen GmbH-Firmenlogo
Projektleiter (m/w/d) Elektrotechnik CR3-Kaffeeveredelung M. Hermsen GmbH
THU Technische Hochschule Ulm-Firmenlogo
Laboringenieur*in (w/m/d) mit Leitungsfunktion am Institut für Automatisierungssysteme THU Technische Hochschule Ulm
RHEINMETALL AG-Firmenlogo
Verstärkung für unsere technischen Projekte im Bereich Engineering und IT (m/w/d) RHEINMETALL AG
deutschlandweit Zum Job 
TÜV Hessen-Firmenlogo
Sachverständiger Elektrotechnik (m/w/d) TÜV Hessen
Frankfurt am Main Zum Job 
Stuttgart Netze GmbH-Firmenlogo
(Junior) Ingenieur Elektrotechnik Projektierung (w/m/d) Stuttgart Netze GmbH
Stuttgart Zum Job 
Lincoln Electric GmbH-Firmenlogo
Schweißfachingenieur / Schweißtechniker (m/w/d) Lincoln Electric GmbH
Evonik Operations GmbH-Firmenlogo
Ingenieur (m/w/d) Informatik / Elektrotechnik / Automatisierungstechnik / Chemische Produktion Evonik Operations GmbH
VIVAVIS AG-Firmenlogo
Partner-Manager Metering (m/w/d) VIVAVIS AG
Koblenz, Home-Office Zum Job 
VIVAVIS AG-Firmenlogo
Sales Manager Bahn (m/w/d) VIVAVIS AG
Berlin, Home-Office Zum Job 
NVL B.V. & Co. KG-Firmenlogo
Systemingenieur (m/w/d) für Marineschiffe - Integration von Navigationssystemen NVL B.V. & Co. KG
Bremen / Lemwerder Zum Job 
Hochschule Reutlingen-Firmenlogo
Akademische:r Mitarbeiter:in (m/w/x) "SMARTE ASSISTENZSYSTEME" Hochschule Reutlingen
Reutlingen Zum Job 
Staatliches Baumanagement Hannover-Firmenlogo
Ingenieure (m/w/d) der Fachrichtung Elektrotechnik Staatliches Baumanagement Hannover
Hannover Zum Job 
Octapharma Produktionsgesellschaft Deutschland mbH-Firmenlogo
Ingenieur (m/w/d) Automatisierung (Schwerpunkt: Prozessleitsystem PCS7) Octapharma Produktionsgesellschaft Deutschland mbH
Springe Zum Job 
Fachhochschule Münster-Firmenlogo
Professur für "Elektrische Netze" (w/m/d) Fachhochschule Münster
Steinfurt Zum Job 
Zweckverband Bodensee-Wasserversorgung-Firmenlogo
Ingenieur (m/w/d) für Automatisierungstechnik SPS / OT-Sicherheit Zweckverband Bodensee-Wasserversorgung
Sipplingen Zum Job 
B. Braun Melsungen AG-Firmenlogo
Senior Prozess Experte (w/m/d) Reinmedien / Einwaage / Ansatz B. Braun Melsungen AG
Melsungen Zum Job 
Deutsches Zentrum für Luft- und Raumfahrt e. V.-Firmenlogo
Versorgungsingenieur/in, Elektroingenieur/in o. ä. (w/m/d) Projektsteuerung von Baumaßnahmen Deutsches Zentrum für Luft- und Raumfahrt e. V.
DTU Nanolab-Firmenlogo
Technicians / Service Engineers (f/m/d) DTU Nanolab
Kongens Lyngby (Dänemark) Zum Job 

OpenAI sperrt den Account

OpenAI wurde auf das Projekt aufmerksam und stoppte den Entwickler schnell, da er gegen die Richtlinien verstieß. Ein Sprecher des Unternehmens erklärte, dass sie den Verstoß proaktiv identifiziert und den Entwickler aufgefordert hätten, die Aktivität zu beenden
Der Sprecher erklärte, dass „die Nutzungsrichtlinien von OpenAI die Nutzung unserer Dienste zur Entwicklung von Waffen oder zur Automatisierung von Systemen, die die persönliche Sicherheit gefährden können, verbieten.“

Beunruhigendes Bild der Zukunft

Obwohl es nicht die Absicht von STS 3D war, zeigt sein automatisiertes Gewehr ein beunruhigendes Bild einer Zukunft, in der KI-gesteuerte Waffensysteme Gegner ohne menschliches Eingreifen töten könnten – eine Vorstellung, die OpenAI eindeutig ablehnt.
Das Video wurde inzwischen von TikTok entfernt, aber es gibt noch Kopien davon.

Ein Beitrag von:

  • Alexandra Ilina

    Redakteurin beim VDI-Verlag. Nach einem Journalistik-Studium an der TU-Dortmund und Volontariat ist sie seit mehreren Jahren als Social Media Managerin, Redakteurin und Buchautorin unterwegs.  Sie schreibt über Karriere und Technik.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.