azskarthak@gmail.com
Die KI-Anwendung DeepSeek hat sich rasant zu einer der meistgenutzten Applikationen in deutschen App Stores entwickelt. Doch Sicherheitsbehörden und Datenschutzexperten schlagen Alarm: Sie sehen gravierende Risiken durch die umfangreiche Speicherung von Nutzerdaten, die leichte Manipulierbarkeit der KI und die mögliche Einflussnahme durch chinesische Behörden.
Inhaltsverzeichnis
Umfangreiche Erfassung von Nutzereingaben
Ein zentrales Problem stellt die Speicherung von Nutzereingaben dar. DeepSeek protokolliert nach eigenen Datenschutzrichtlinien „Tastatureingabemuster oder -rhythmen“. Solche Daten erlauben es, Nutzerinnen und Nutzer anhand individueller Tippmuster zu identifizieren.
Laut dem Bundesamt für Sicherheit in der Informationstechnik (BSI) könnte DeepSeek sogar eingegebene Texte mitlesen, bevor sie abgeschickt werden. Eine Sprecherin des BSI erklärte gegenüber der dpa: „Auch Tastatureingaben innerhalb der App können womöglich mitgelesen werden, bevor sie abgeschickt werden.“
Gefahr durch Nutzerprofile und Identifizierung
Diese Art der Datensammlung ermöglicht eine Analyse von Schreibmustern. Künstliche Intelligenz kann daraus individuelle Nutzerprofile erstellen und wiedererkennen. Das BSI stuft diese Technologie besonders für sicherheitskritische Bereiche als problematisch ein.
Im Gegensatz dazu versprechen westliche KI-Anbieter wie OpenAI, keine personenbezogenen Daten gezielt zu sammeln oder für Profilbildung zu nutzen. Doch auch hier bestehen Datenschutzrisiken, etwa durch den US Cloud Act, der US-Behörden Zugriff auf Daten von Unternehmen gewährt, unabhängig vom Speicherort.
DeepSeek als potenzielles Werkzeug für Cyberkriminelle
Eine weitere Gefahr ergibt sich aus der leichten Manipulierbarkeit von DeepSeek. Forschende des Cybersicherheitsunternehmens Palo Alto Networks konnten die KI mit bestimmten Befehlen dazu bringen, Skripte für den Diebstahl von Daten aus Mails und Dokumenten zu generieren. Laut Sam Rubin, Leiter der Bedrohungsanalyse des Unternehmens, war es sogar möglich, DeepSeek zur Erstellung von Keylogger-Software zu bewegen. „Unsere Forscher waren in der Lage, die schwachen Sicherheitsvorkehrungen zu umgehen, um bösartige Inhalte zu produzieren, was wenig bis kein Spezialwissen oder Expertise erforderte“, so Rubin.
In der Software-Branche bezeichnet man das Umgehen von Sicherheitsvorkehrungen als „Jailbreaking“. Während andere KI-Modelle Schutzmechanismen gegen Missbrauch besitzen, fehlen diese bei DeepSeek weitgehend, was es Cyberkriminellen besonders einfach macht, die Software für illegale Zwecke zu nutzen.
Verbindung zur chinesischen Regierung?
Zusätzlich zu den technischen Sicherheitsbedenken kommt die politische Dimension. DeepSeek ist nach chinesischem Recht verpflichtet, alle Nutzerdaten innerhalb der Volksrepublik zu speichern.
Das chinesische Geheimdienstgesetz sieht zudem vor, dass Unternehmen und Bürgerinnen und Bürger mit den Sicherheitsbehörden kooperieren müssen. Kritische Stimmen befürchten, dass dies de facto einen ungehinderten Zugriff des chinesischen Staates auf alle gespeicherten Daten bedeutet.
Datenschutzbehörden nehmen DeepSeek unter die Lupe
In Deutschland wächst der Widerstand gegen die Nutzung von DeepSeek. Der Datenschutzbeauftragte von Rheinland-Pfalz hat ein Prüfverfahren gegen die Anwendung eingeleitet. „Mehrere deutsche Datenschutzaufsichtsbehörden gehen voraussichtlich parallel vor“, erklärte eine Sprecherin.
Nach der EU-Datenschutzgrundverordnung (DSGVO) muss ein Unternehmen ohne Niederlassung in der EU zumindest eine offizielle Ansprechperson benennen. DeepSeek hat dies offenbar bisher nicht getan. Die italienische Datenschutzbehörde GDDP hat die KI daher bereits im Januar gesperrt.
Strenge Sicherheitsmaßnahmen in Behörden und Unternehmen
Angesichts der Risiken setzen deutsche Behörden und Unternehmen strenge Sicherheitsmaßnahmen um. Das Bundesinnenministerium hat generell die Nutzung externer Cloud-Dienste untersagt. Andere Ministerien wie das Finanz- und das Wirtschaftsministerium verbieten den Einsatz textgenerativer KIs für dienstliche Zwecke. Auch das Deutsche Patent- und Markenamt nutzt DeepSeek nicht, um Industriespionage zu vermeiden.
Große deutsche Konzerne gehen ebenfalls auf Nummer sicher. So erlaubt Siemens den Zugriff auf KI-Anwendungen nur über eigene gesicherte Systeme. BMW und BASF setzen ähnliche Schutzmaßnahmen um, um die eigenen Daten zu sichern. Besonders sensible Unternehmen, wie die Münchner Wacker Chemie, die Zuliefererin für die Chipindustrie ist, verbieten die Nutzung von DeepSeek auf allen Firmenrechnern und -geräten. (mit dpa)
Ein Beitrag von:
