Forschende wollen Medizin-KI vor Cyberangriffen schützen
Wissenschaftlerinnen und Wissenschaftler der Uni Bonn, des Uniklinikums Bonn und des FIZ Karlsruhe arbeiten an Lösungen, um KI-basierte Medizingeräte und -anwendungen vor Cyberattacken zu schützen. Das BMFTR fördert das Projekt „SecureNeuroAI“ mit fast 2,5 Millionen Euro.
Cyberangriffe können vor allem im medizinischen Bereich großen Schaden anrichten.
Foto: SmarterPix/solarseven
Der Einsatz Künstlicher Intelligenz (KI) im Gesundheitswesen verspricht eine Verbesserung der Patientenversorgung und eine Steigerung der Lebensqualität. Doch mit der zunehmenden Integration von KI in medizinische Geräte und Anwendungen wächst auch die Gefahr von Cyberangriffen. Diese können nicht nur die Sicherheit der Patientinnen und Patienten gefährden, sondern auch die Arbeit von Rettungskräften beeinträchtigen und die Funktionstüchtigkeit von Medizingeräten beeinflussen. Um dieser Bedrohung entgegenzuwirken, haben sich Forschende der Universität Bonn, des Universitätsklinikums Bonn und des FIZ Karlsruhe zusammengeschlossen. Im Rahmen des Projekts „SecureNeuroAI“ entwickeln sie sichere, KI-gestützte Methoden zur Echtzeiterkennung medizinischer Notfälle am Beispiel epileptischer Anfälle. Das Bundesministerium für Forschung, Transfer und Raumfahrt (BMFTR) unterstützt das auf drei Jahre angelegte Vorhaben mit einer Fördersumme von knapp 2,5 Millionen Euro.
Die Projektbeteiligten verfolgen das Ziel, Verfahren zur Datenauthentifizierung zu entwickeln, die einerseits die KI-Verarbeitung der Informationen nicht beeinträchtigen, andererseits aber einen Nachweis über die Herkunft dieser Daten ermöglichen. Elena Demidova, Leiterin der Arbeitsgruppe „Data Science and Intelligent Systems“ (DSIS) an der Universität Bonn und Koordinatorin von „SecureNeuroAI“, bringt gemeinsam mit ihrem Team umfangreiche KI-Expertise in das Projekt ein. Weitere Beteiligte sind Michael Meier, Leiter der Arbeitsgruppe „IT-Sicherheit“ am Institut für Informatik der Universität Bonn, Björn Krüger von der Klinik für Epileptologie des Universitätsklinikums Bonn sowie Franziska Boehm vom FIZ Karlsruhe – Leibniz-Institut für Informationsinfrastruktur.
Multimodale Sensordaten als Basis für sichere KI-Modelle gegen Cyberangriffe
Im Zentrum des Projekts steht die Entwicklung sicherer, KI-gestützter Methoden zur Echtzeiterkennung medizinischer Notfälle, die am Beispiel epileptischer Anfälle erprobt werden sollen. Grundlage dafür ist eine umfassende Analyse und Erfassung multimodaler Sensordaten, die mithilfe tragbarer elektronischer Geräte („Wearables“) sowie klinischer Daten von Patientinnen und Patienten gewonnen werden. Diese Informationen, zu denen beispielsweise Vitalparameter wie Herz- und Atemfrequenz zählen, werden anschließend durch cybersichere KI-Modelle analysiert. Die Modelle sollen in der Lage sein, Anfälle zuverlässig zu erkennen und potenzielle Datenmanipulationen zu identifizieren. Parallel dazu arbeitet das Projektteam an der Definition technischer, organisatorischer und rechtlicher Maßnahmen, um die Einbindung der entwickelten KI-Methoden in klinische und häusliche Anwendungsfälle zu unterstützen.
Die Arbeitsgruppe von Elena Demidova übernimmt eine Schlüsselrolle bei der Entwicklung von KI-Methoden zur Authentifizierung von Daten und bei der Konzeption erklärbarer KI-Modelle zur Erkennung von Manipulationen und Anfallsereignissen. „KI-Modelle werden durch Daten angetrieben und sind stark von ihnen abhängig, weshalb die Entwicklung von Schutzmechanismen wie Datenauthentifizierung und Manipulationserkennung von entscheidender Bedeutung ist“, erklärt Demidova. Sie weist darauf hin, dass insbesondere im Bereich der KI-gestützten Erkennung medizinischer Notfälle die Manipulationserkennung eine große Hürde ist – bedingt durch die Komplexität der Datenmuster und der begrenzten Datenverfügbarkeit.
Uniklinik Bonn validiert KI-Modelle zum Schutz vor Cyberangriffen
Eine zentrale Rolle bei der klinischen Validierung und Integration der entwickelten KI-Modelle übernimmt das Universitätsklinikum Bonn (UKB). Als Anwendungspartner werden in der Klinik und Poliklinik für Epileptologie multimodale Daten zur Anfallserkennung systematisch erfasst und unter klinischen Bedingungen aufbereitet. Ziel ist es, eine realitätsnahe Datengrundlage für die KI-Modelle zu schaffen. „Künstliche Intelligenz wird in der Auswertung klinischer Daten eine immer größere Rolle spielen“, sagt Björn Krüger. „Gerade im Gesundheitsbereich, wo wir mit besonders sensiblen Patientendaten arbeiten, ist ein sicheres Systemdenken unerlässlich – genau hier setzt das Projekt SecureNeuroAI an.“
Die Arbeitsgruppe von Michael Meier von der Uni Bonn bringt Erfahrungen in aktuellen IT-Sicherheitsthemen ein. „Aus Studien zur Cybersicherheit wissen wir, dass vernetzte Medizinprodukte selbst, insbesondere aber die begleitenden Infrastrukturen, Schwachstellen aufweisen, die unbemerkte Manipulationen von Sensordaten ermöglichen können“, betont Michael Meier. Die von Franziska Boehm geleitete Forschungsabteilung Immaterialgüterrechte (IGR) beim FIZ Karlsruhe analysiert Datenschutz- und IT-Vorgaben sowie Rechtsfragen der künstlichen Intelligenz. Daraus will das Forscherteam Empfehlungen für gesellschaftliche Prozesse und die digitale Wissenschaft ableiten.
Schutz von KI-Modellen und Daten vor Cyberangriffen als übergeordnetes Ziel
Die Ergebnisse des Projekts „SecureNeuroAI“ sollen einen Beitrag zur Stärkung kritischer medizinischer Geräte gegen Cyberangriffe leisten, wenn diese Geräte KI-Methoden zur Erkennung lebensbedrohlicher Zustände in Echtzeit einsetzen. Die entwickelten technischen Lösungen zielen darauf ab, sowohl die KI-Modelle selbst als auch die zugrunde liegenden Daten vor Manipulationen zu schützen. Dabei sollen die Projektergebnisse über die Erkennung epileptischer Anfälle hinaus Anwendung finden. Übergeordnetes Ziel ist es, eine technologische Basis zu schaffen, die die Integrität, Verfügbarkeit und Verlässlichkeit von KI-basierten Medizingeräten verbessert und somit deren Widerstandsfähigkeit gegenüber Cyberangriffen erhöht.
Ein Beitrag von:
