Inhalte aus der realen Welt integriert 01.07.2022, 07:00 Uhr

Maschinelle Lernmodelle werden endlich nutzerfreundlicher

Maschinelle Lernmodelle ermöglichen Fortschritt. Doch wie sieht es mit dem Vertrauen in die Ergebnisse aus? Hier gibt es durchaus noch Potenzial. Forschende beschäftigen sich deshalb damit, solche Modelle nutzerfreundlicher und verständlicher zu gestalten. Das ist einer Gruppe vom MIT nun gelungen.

abstrakte Darstellung künstlicher Intelligenz

Nutzerfreundliche Begriffe machen maschinelle Lernmodelle zu besseren Helfern. Sie werden verständlicher.

Foto: panthermedia.net/monsit

Eine Forschergruppe, bestehend aus Wissenschaftlerinnen und Wissenschaftlern der Elektrotechnik, Informatik, für Informations- und Entscheidungssysteme (LIDS), Expertinnen und Experten für künstliche Intelligenz (KI) und Datenwissenschaften, beschäftigt sich seit einiger Zeit damit, Modelle für maschinelles Lernen besser zu erklären. „Wir haben festgestellt, dass in der realen Welt, obwohl wir modernste Methoden zur Erklärung von Modellen für maschinelles Lernen verwendet haben, immer noch viel Verwirrung aufgrund der Merkmale und nicht des Modells selbst besteht“, sagt Alexandra Zytek, Doktorandin der Elektrotechnik und Informatik am Massachusetts Institute of Technology (MIT). Um das zu verändern, hat sie das Verfahren der Taxonomie in Betracht gezogen. Es dient der Klassifizierung von Objekten, die dann in Kategorien eingeordnet werden. Das Ziel lautet: Die Wissenschaftler wollen Entwicklern und Entwicklerinnen helfen, Funktionen zu erstellen, die es der Zielgruppe leichter machen, Ergebnisse und Zusammenhänge zu verstehen.

Geräte mit KI sind gefragt, doch eine gewisse Skepsis bleibt

Top Stellenangebote

Zur Jobbörse
Hochschule Esslingen-Firmenlogo
Professor:in für das Lehrgebiet "Konstruktion" Hochschule Esslingen
Göppingen, Esslingen Zum Job 
Safran Data Systems GmbH-Firmenlogo
Testingenieur / Certified Tester (m/w/d) Safran Data Systems GmbH
Bergisch Gladbach Zum Job 
Fraunhofer-Gesellschaft e.V.-Firmenlogo
Sachgebietsleiter*in Technisches Gebäudemanagement - Betrieb, Wartung & Weiterentwicklung Fraunhofer-Gesellschaft e.V.
München Zum Job 
Stadtwerke München GmbH-Firmenlogo
Commissioning Manager Control, Field and Automation Engineering (m/w/d) Stadtwerke München GmbH
München Zum Job 
Hochschule Esslingen-Firmenlogo
Professor:in für das Lehrgebiet "Elektrotechnik und Elektrische Energieversorgung" Hochschule Esslingen
Göppingen, Esslingen Zum Job 
Rhein-Sieg Netz GmbH-Firmenlogo
Ingenieur (m/w/d) Netzbetrieb Rhein-Sieg Netz GmbH
Siegburg Zum Job 
Röhm GmbH-Firmenlogo
Ingenieur (m/w/d) Elektrotechnik / Automatisierungstechnik / EMSR Röhm GmbH
Wesseling Zum Job 
Wasserstraßen- und Schifffahrtsverwaltung des Bundes-Firmenlogo
Bauingenieurinnen / Bauingenieure (m/w/d) Fachrichtung konstruktiver Ingenieurbau Wasserstraßen- und Schifffahrtsverwaltung des Bundes
Brunsbüttel, Rendsburg Zum Job 
BMI Deutschland GmbH-Firmenlogo
Sicherheitsfachkraft / Fachkraft für Arbeitssicherheit (m/w/d) BMI Deutschland GmbH
Dülmen Zum Job 
SWM Services GmbH-Firmenlogo
Inbetriebsetzungsleiter*in für Verfahrenstechnik (m/w/d) SWM Services GmbH
München Zum Job 
Fachhochschule Dortmund-Firmenlogo
Vertretungsprofessur "Produktions- und Qualitätsmanagement"; Fachbereich Maschinenbau Fachhochschule Dortmund
Dortmund Zum Job 
BMI Deutschland GmbH-Firmenlogo
Sicherheitsfachkraft / Fachkraft für Arbeitssicherheit (m/w/d) BMI Deutschland GmbH
Dülmen, Heyrothsberge Zum Job 
Herrenknecht AG-Firmenlogo
Technischer Redakteur (m/w/d) Herrenknecht AG
Schwanau Zum Job 
Wasserstraßen- und Schifffahrtsverwaltung des Bundes-Firmenlogo
Bauingenieurin /Bauingenieur (m/w/d) Wasserstraßen- und Schifffahrtsverwaltung des Bundes
Brunsbüttel Zum Job 
ONTRAS-Firmenlogo
Spezialist Strategische Technologie (m/w/d) ONTRAS
Leipzig Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Techniker als Fachexperte für Vertragsmanagement, Ausschreibung, Vergabe & Abrechnung (w/m/d) Die Autobahn GmbH des Bundes
Krailling bei München Zum Job 
Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO-Firmenlogo
Wissenschaftliche*r Referent*in der Institutsleiterin Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO
Stuttgart Zum Job 
FH Münster-Firmenlogo
Professur für "Strömungstechnik" im Fachbereich Maschinenbau FH Münster
Münster Zum Job 
Technische Hochschule Rosenheim-Firmenlogo
Professorin / Professor (m/w/d) für Applied Embedded Computing Technische Hochschule Rosenheim
Rosenheim Zum Job 
FUNKE Wärmeaustauscher Apparatebau GmbH-Firmenlogo
Verfahrensingenieur (m/w/d) im technischen Vertrieb Rohrbündelwärmeaustauscher FUNKE Wärmeaustauscher Apparatebau GmbH
Gronau (Leine) Zum Job 

Maschinelle Lernmodelle sind in der Lage, Vorhersagen zu treffen. Ein Beispiel: In einem Krankenhaus kommt ein solches Modell auf einer Intensivstation zum Einsatz. Es soll den Ärztinnen und Ärzten dabei helfen, das Risiko für Komplikationen vorherzusagen, die bei Patienten und Patientinnen nach einer Herzoperation entstehen können. Dazu nutzt das Modell zum Beispiel den Trend der Herzfrequenz eines Patienten in einem bestimmten Zeitraum als Merkmal. Ein paar solcher Merkmale wurden dazu als sogenannte aggregierte Werte dargestellt. Aggregierte Daten, auch Makrodaten genannt, fassen eine große Zahl an Einzelbeobachtungen (Mikrodaten) in einem Wert zusammen. Ein solcher aggregierter Wert ist zum Beispiel das Bruttoinlandsprodukt. Die Ärztinnen und Ärzte konnten aber nicht verstehen, wie die Risikovorhersagen auf Basis der Daten zustande kamen. Sie präferierten eher einen Bezug der aggregierten Merkmale zu den ursprünglichen Werten, um so die Abweichungen innerhalb der Herzfrequenz eines Patienten erkennen zu können.

Maschinelle Lernmodelle: Taxonomie als Schlüssel für den Erfolg

Daraus ergab sich für die Forschenden folgendes Bild: Wenn es darum geht, Daten zu interpretieren, passt nicht eine Größe für alle. Es gilt, unterschiedliche Bedürfnisse zu berücksichtigen. Auch die Interpretierbarkeit an sich beinhaltet viele Ebenen. Deshalb war für das Forscher-Team die Taxonomie der Schlüssel zum Erfolg. Es ließen sich auf diese Art und Weise Eigenschaften definieren, die Funktionen für verschiedene Entscheidungsträger mehr oder weniger interpretierbar machen können. Darüber hinaus ließe sich eingrenzen, welche Eigenschaften für die Benutzergruppen wohl am relevantesten seien.

Mit ihrem Ansatz hoffen die Forschenden, Entwickler von maschinellen Lernmodellen anzuregen, interpretierbare Funktionen schon von Anfang an in den Entwicklungsprozess einzubinden, statt sie nachträglich einzuarbeiten, um das System verständlicher zu gestalten. Schließlich dienten Funktionen, die von Menschen auf natürliche und verständliche Weise beschrieben würden, der Usability. Und wenn solche Modelle einfacher zu nutzen sind, sorge das auch für das notwendige Vertrauen in die Technik.

Maschinelle Lernmodelle müssen verständlich sein

Damit sich Funktionen in maschinelle Lernmodelle integrieren lassen, müssen Daten zum Beispiel aggregiert oder Werte normalisiert werden. Das erledigen meistens Datenwissenschaftler und -wissenschaftlerinnen. Doch diese Ergebnisse dann auf die eigene Arbeit zu transferieren und daraus Lösungen abzuleiten, ist für Laien nahezu unmöglich. Deshalb stand für das Forschungsteam vor allem eine bessere Interpretation im Mittelpunkt. Genau dabei können menschliche Begriffe helfen, wie die Wissenschaftlerinnen und Wissenschaftler herausfanden. Wenn bei Datenspannen immer die gleiche Anzahl von Jahren enthalten ist, ließe sich das trotzdem nicht unbedingt gut interpretieren. Füge man aber Begriffe wie Säugling, Kleinkind, Kind und Teenager hinzu, ließen sich die Daten auf Basis dessen gruppieren.

Das Ergebnis stimmt das Forscher-Team hoffnungsvoll. „In vielen Bereichen ist der Kompromiss zwischen interpretierbaren Merkmalen und Modellgenauigkeit tatsächlich sehr gering. Als wir beispielsweise mit Mitarbeitenden der Kinderfürsorge zusammengearbeitet haben, trainierten wir das Modell neu, indem wir nur Funktionen verwendeten, die unseren Definitionen für Interpretierbarkeit entsprachen und die Leistungseinbuße war fast vernachlässigbar“, erklärt Alexandra Zytek. Auf Basis dieser Ergebnisse haben die Forschenden ein System entwickelt, mit dem ein Modellentwickler künftig komplexe Merkmaltransformationen effizienter handhaben kann, um nutzerorientierte Erklärungen für maschinell lernende Modelle zu erstellen.

Mehr zum Thema maschinelles Lernen:

Ein Beitrag von:

  • Nina Draese

    Nina Draese hat unter anderem für die dpa gearbeitet, die Presseabteilung von BMW, für die Autozeitung und den MAV-Verlag. Sie ist selbstständige Journalistin und gehört zum Team von Content Qualitäten. Ihre Themen: Automobil, Energie, Klima, KI, Technik, Umwelt.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.