Australische Studie 15.10.2024, 14:20 Uhr

Mit ChatGPT auf Terroristenjagd?

Kann ChatGPT bei der Suche nach Terroristen helfen? Eine australische Studie zeigt, wie künstliche Intelligenz Extremisten durch Textanalyse entlarven könnte.

ChatGPT

Ein australisches Forschungsteam hat sich mit der Frage beschäftigt, wie ChatGPT bei der Suche nach Terroristen helfen könnte.

Foto: PantherMedia / supatman

Die Bekämpfung von Terrorismus stellt Sicherheitsbehörden weltweit vor immense Herausforderungen. Technologien wie ChatGPT könnten dabei eine unterstützende Rolle spielen. Forschende der Charles Darwin University in Australien haben untersucht, wie die generative Intelligenz des Sprachmodells genutzt werden kann, um die Motivation hinter extremistischen Äußerungen zu erkennen. Die Ergebnisse werfen ein neues Licht auf die mögliche Anwendung von KI bei der Terrorismusbekämpfung.

Analyse von Terroristenaussagen mit KI

ChatGP wurde ursprünglich entwickelt, um menschenähnliche Antworten auf Texteingaben zu generieren. Doch wie sich herausstellt, ist es auch in der Lage, komplexe Analysen durchzuführen und verborgene Motive in Texten zu entschlüsseln. Im Rahmen der Studie fütterten die Forschenden ChatGPT mit einer Auswahl an Texten von vier international bekannten Terroristen. Diese Texte waren Teil eines Datensatzes, der insgesamt 20 öffentliche Äußerungen von Terroristen umfasste, die nach den Anschlägen des 11. Septembers 2001 veröffentlicht wurden.

Ziel der Studie war es, herauszufinden, ob ChatGPT in der Lage ist, zentrale Themen und Motive aus diesen Texten zu identifizieren. Dabei stellten die Wissenschaftlerinnen und Wissenschaftler  zwei Kernfragen:

  1. Welche Hauptthemen oder Motive lassen sich aus den Texten ableiten?
  2. Welche Missstände stehen hinter den kommunizierten Botschaften?

Ergebnisse der Analyse

ChatGPT konnte diese Fragen beantworten und die Hauptthemen identifizieren. Darunter fanden sich zentrale Punkte wie Vergeltung, Ablehnung demokratischer Systeme, Widerstand gegen Säkularismus und der Kampf gegen vermeintliche kulturelle Bedrohungen. Besonders auffällig war, dass ChatGPT auch die Motivation hinter den Aussagen aufzeigen konnte. Gewaltaufrufe basierten oft auf der Forderung nach Vergeltung und einem vermeintlichen Bedürfnis nach „Gerechtigkeit“, untermauert von antiwestlichen Gefühlen und religiösen Missständen.

Stellenangebote im Bereich Softwareentwicklung

Softwareentwicklung Jobs
über ifp | Executive Search. Management Diagnostik.-Firmenlogo
Produktionsleiter:in über ifp | Executive Search. Management Diagnostik.
Truma Gerätetechnik GmbH & Co. KG-Firmenlogo
Elektroniker (m/w/d) im Bereich Fahrzeugelektronik Truma Gerätetechnik GmbH & Co. KG
Putzbrunn Zum Job 
Netzgesellschaft Potsdam GmbH-Firmenlogo
Ingenieur Strategische Netzplanung (m/w/d) für Strom, Datennetze, Infokabel, 450 MHz Netzgesellschaft Potsdam GmbH
Potsdam Zum Job 
Netzgesellschaft Potsdam GmbH-Firmenlogo
Betriebsingenieur (m/w/d) Elektrotechnik/Energietechnik für die Niederspannung bzw. Hochspannung Netzgesellschaft Potsdam GmbH
Potsdam Zum Job 
BG ETEM-Firmenlogo
Dipl.-Ing. (Uni/TU/TH), M. Sc./Eng. (m/w/d) im Bereich Fachkompetenzcenter Elektrische Gefährdungen BG ETEM
Schleifring GmbH-Firmenlogo
Vertriebsingenieur (m/w/d) Schleifring GmbH
Fürstenfeldbruck Zum Job 
Deutsche Rentenversicherung Bund-Firmenlogo
Teamleiter*in Bauprojekte Elektrotechnik (m/w/div) Deutsche Rentenversicherung Bund
GIBY GmbH-Firmenlogo
Service Techniker (m/w/d) für Telekommunikationsnetze GIBY GmbH
Leipzig Zum Job 
TÜV Technische Überwachung Hessen GmbH-Firmenlogo
Sachverständiger Elektrotechnik / Ausbildung zum Sachverständigen Elektrotechnik (m/w/d) TÜV Technische Überwachung Hessen GmbH
Frankfurt am Main Zum Job 
TÜV Technische Überwachung Hessen GmbH-Firmenlogo
Ausbildung zum Prüfingenieur / Sachverständiger (m/w/d) für den Tätigkeitsbereich Fahrzeugprüfung und Fahrerlaubnisprüfung TÜV Technische Überwachung Hessen GmbH
Frankfurt am Main Zum Job 
Hamamatsu Photonics Deutschland GmbH-Firmenlogo
Vertriebsingenieur (m/w/d) Bereich Labor-, Prozess, und Umweltanalyse Hamamatsu Photonics Deutschland GmbH
Herrsching am Ammersee Zum Job 
Behörde für Stadtentwicklung und Wohnen`-Firmenlogo
Ingenieur:in Elektrotechnik, Maschinenbau, Versorgungstechnik, Bachelor / Dipl.-Ing. (FH) für den technischen Vorbereitungsdienst (TOIA) Behörde für Stadtentwicklung und Wohnen`
Hamburg Zum Job 
FEIG ELECTRONIC GmbH-Firmenlogo
(Senior-) Hardwareentwickler*in - Schaltungstechnik und Mikrocontroller, Sensorik FEIG ELECTRONIC GmbH
Weilburg Zum Job 
Stuttgart Netze GmbH-Firmenlogo
(Junior) Ingenieur Quartiersentwicklung Anschlussservice (w/m/d) Stuttgart Netze GmbH
Stuttgart Zum Job 
ATLAS TITAN Mitte GmbH-Firmenlogo
Projektleiter Leitungsbau Schutztechnik (m/w/d) ATLAS TITAN Mitte GmbH
ATLAS TITAN Mitte GmbH-Firmenlogo
Ingenieur Elektrotechnik (m/w/d) Schwerpunkt Automatisierungstechnik ATLAS TITAN Mitte GmbH
Braunschweig Zum Job 
SPITZKE SE GVZ Berlin Süd-Firmenlogo
Bauleiter Elektrotechnik (m/w/d) SPITZKE SE GVZ Berlin Süd
Großbeeren Zum Job 
Stadtwerke Schneverdingen-Neuenkirchen GmbH-Firmenlogo
Leitender Ingenieur (m/w/d) Netzbau und -betrieb Strom und Breitband Stadtwerke Schneverdingen-Neuenkirchen GmbH
Schneverdingen Zum Job 
Agile Robots SE-Firmenlogo
Senior Projektingenieur - Industrial Automation (m/w/d) Agile Robots SE
München Zum Job 
TEGEL PROJEKT GMBH-Firmenlogo
Ingenieur*in als Projektsteuerer*in für Versorgungstechnik / Technische Gebäudeausrüstung (TGA) (m/w/d) TEGEL PROJEKT GMBH

Die Forschungsergebnisse legen nahe, dass ChatGPT ein nützliches Werkzeug zur Unterstützung von Sicherheitsbehörden sein könnte. Durch die Analyse extremistischer Texte kann das Modell Hinweise auf mögliche Bedrohungen liefern und so die Verdachtsbildung beschleunigen. Allerdings ersetzt KI nicht das menschliche Urteilsvermögen. Sie kann nur ergänzend eingesetzt werden.

Ein besonders spannender Aspekt der Studie ist die Übertragung der von ChatGPT identifizierten Themen auf das Terrorist Radicalisation Assessment Protocol-18 (TRAP-18). TRAP-18 ist ein Instrument, das von Sicherheitsbehörden verwendet wird, um das Verhalten von Personen zu bewerten, die möglicherweise in terroristische Aktivitäten verwickelt sind. Die Themen, die ChatGPT in den Texten erkannte, stimmten mit den Indikatoren überein, die in TRAP-18 für bedrohliches Verhalten definiert sind.

Die Rolle von KI bei der Terrorismusbekämpfung

Laut Dr. Awni Etaywe, einem führenden Experten für forensische Linguistik, liegt der Vorteil großer Sprachmodelle wie ChatGPT darin, dass sie ohne spezielle Schulung eingesetzt werden können. Dies könnte die Arbeit von Ermittlungsbehörden erheblich beschleunigen. ChatGPT kann nicht nur Muster in Texten erkennen, sondern auch die zugrunde liegenden Motive und Emotionen herausarbeiten. Dadurch wird es möglich, potenzielle Bedrohungen schneller zu identifizieren.

Dr. Etaywe betont jedoch, dass KI-Systeme wie ChatGPT das menschliche Urteilsvermögen nicht ersetzen können. „Große Sprachmodelle bieten wertvolle Ermittlungshinweise, beschleunigen die Verdachtsbildung und verbessern unser Verständnis für die Motivationen hinter terroristischen Äußerungen“, erklärt Etaywe. Dennoch sei es wichtig, die Ergebnisse von KI-Systemen immer kritisch zu hinterfragen und durch menschliche Expertise zu ergänzen.

Herausforderungen und Risiken

Trotz der vielversprechenden Ergebnisse der Studie gibt es auch Herausforderungen, die bei der Nutzung von KI in der Terrorismusbekämpfung berücksichtigt werden müssen. Dr. Etaywe weist darauf hin, dass weitere Studien erforderlich sind, um die Genauigkeit und Zuverlässigkeit von ChatGPT und anderen KI-Systemen zu verbessern. Insbesondere die Berücksichtigung der soziokulturellen Kontexte des Terrorismus ist von großer Bedeutung, um Fehlinterpretationen zu vermeiden.

Ein weiteres Problem ist die potenzielle missbräuchliche Nutzung von KI. Europol hat bereits Bedenken geäußert, dass Sprachmodelle wie ChatGPT von Terroristen als Werkzeug genutzt werden könnten, um ihre Propaganda zu verbreiten oder neue Anhänger zu rekrutieren. Es ist daher wichtig, die Entwicklung solcher Technologien sorgfältig zu überwachen und geeignete Sicherheitsmechanismen zu implementieren.

Hier geht es zur Originalmeldung

Ein Beitrag von:

  • Dominik Hochwarth

    Redakteur beim VDI Verlag. Nach dem Studium absolvierte er eine Ausbildung zum Online-Redakteur, es folgten ein Volontariat und jeweils 10 Jahre als Webtexter für eine Internetagentur und einen Onlineshop. Seit September 2022 schreibt er für ingenieur.de.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.