Anwendungsbeispiele rund um KI 05.04.2024, 07:00 Uhr

Fraunhofer: Wie vertrauenswürdig sind KI-Systeme?

Künstliche Intelligenz (KI) birgt enormes Potenzial für die Industrie. Viele Unternehmen fragen sich jedoch, wie leistungsfähig und sicher KI-Systeme sind. Auf der Hannover Messe präsentiert das Fraunhofer IAIS zwei Exponate und konkrete Anwendungsbeispiele, die zeigen, welche Lösungen KI bereithält und wann besser der Mensch entscheidet.

KI-Modelle

Ein systematisches Vorgehen in Kombination mit KI-Prüftools hilft dabei, Schwächen von KI-Modellen ausfindig zu machen.

Foto: Fraunhofer IAIS / Zertifizierte KI

Systeme, die auf künstlicher Intelligenz (KI) basieren, sind in der Lage, große Datenmengen zu analysieren und komplexe Muster oder Trends zu erkennen. Darüber hinaus ermöglichen KI-Systeme die Automatisierung von zeitaufwändigen Aufgaben und steigern damit die Effizienz der Produktion. Nicht zuletzt können KI-Systeme Fehler oder Abweichungen in Produktionsprozessen erkennen und frühzeitig melden, um die Qualität von Produkten zu verbessern und den Ausschuss zu reduzieren. Kurz: Mithilfe künstlicher Intelligenz können Unternehmen ihre Betriebsabläufe optimieren und sich besser an die sich verändernden Anforderungen des Marktes anpassen.

Doch die neuen Anwendungsfelder von KI werfen auch Fragen auf: Wie zuverlässig sind KI-Systeme? Wie lassen sich Schwachstellen von KI-Systemen aufdecken und wie sicher sind sie? Mit diesen Fragen befassen sich Forschende des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme (IAIS) und der Institute der Fraunhofer-Allianz Big Data (AI). Auf der Hannover Messe 2024 präsentieren sie zwei Exponate und mehrere Anwendungsbeispiele zum Thema vertrauenswürdige KI-Lösungen.

Top Stellenangebote

Zur Jobbörse
Tagueri AG-Firmenlogo
Teamleitung im Bereich Diagnose (m/w/d) Tagueri AG
Hamburg Zum Job 
Tagueri AG-Firmenlogo
(Junior) Consultant Funktionale Sicherheit (m/w/d) Tagueri AG
Hamburg Zum Job 
Tagueri AG-Firmenlogo
Consultant Systems Engineering (m/w/d) Tagueri AG
Hamburg Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Bauingenieure - Schwerpunkt konstruktiver Ingenieurbau für die Bauwerksprüfung nach DIN 1076 (m/w/d) Die Autobahn GmbH des Bundes
Hamburg Zum Job 
Funkwerk AG-Firmenlogo
Techniker / Ingenieur im Engineering Vertrieb (m/w/d) Funkwerk AG
deutschlandweit Zum Job 
ITW Fastener Products GmbH-Firmenlogo
Technische:r Vertriebsingenieur:in für VW ITW Fastener Products GmbH
Creglingen-Münster Zum Job 
Framatome GmbH-Firmenlogo
Senior Project Quality & OPEX Manager (m/w/d) Framatome GmbH
Erlangen Zum Job 
Rheinmetall Electronics GmbH-Firmenlogo
Elektronikentwickler (m/w/d) Rheinmetall Electronics GmbH
Rheinmetall Electronics GmbH-Firmenlogo
Projektingenieur Kältemittelverdichter (m/w/d) Rheinmetall Electronics GmbH
Forschungszentrum Jülich GmbH-Firmenlogo
Ingenieur für Gebäudeausrüstung / Versorgungstechnik (w/m/d) Forschungszentrum Jülich GmbH
Jülich bei Köln Zum Job 
Diehl Aerospace GmbH-Firmenlogo
Ingenieur / Entwicklungsingenieur (m/w/d) Avionik (System) Diehl Aerospace GmbH
Nürnberg, Überlingen, Frankfurt am Main, Rostock Zum Job 
Rheinmetall Electronics GmbH-Firmenlogo
Projektmanager technische Entwicklungsaktivitäten (m/w/d) Rheinmetall Electronics GmbH
Neckarsulm Zum Job 
Stadtwerke Verkehrsgesellschaft Frankfurt am Main mbH-Firmenlogo
Teamleitung Haltestellen und Stationen (d/m/w) Stadtwerke Verkehrsgesellschaft Frankfurt am Main mbH
Frankfurt am Main Zum Job 
Lahnpaper GmbH-Firmenlogo
Leitung Entwicklungslabor (m/w/d) Lahnpaper GmbH
Lahnstein Zum Job 
Energieversorgung Halle Netz GmbH-Firmenlogo
Projektingenieur - Fernsteuerung Energienetze (m/w/d) Energieversorgung Halle Netz GmbH
Halle (Saale) Zum Job 
Riedel Bau-Firmenlogo
Energieberater / Auditor (m/w/d) Riedel Bau
Schweinfurt Zum Job 
SWM Services GmbH-Firmenlogo
Projektingenieur*in im digitalen Messwesen (m/w/d) SWM Services GmbH
München Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Ingenieur (w/m/d) Elektro- / Kommunikationstechnik Die Autobahn GmbH des Bundes
Frankfurt am Main Zum Job 
RENOLIT SE-Firmenlogo
Ingenieur / Techniker (m/w/d) für Automatisierungstechnik RENOLIT SE
Frankenthal Zum Job 
BREMER Bremen GmbH-Firmenlogo
Kalkulator (m/w/d) BREMER Bremen GmbH

Sora von OpenAI – so mächtig ist die generative Text-to-Video-KI

Exponat 1: Zuverlässigkeit von KI-Modellen testen

Bei dem ersten Exponat handelt es sich um ein Prüftool, welches das KI-System systematisch auf Schwachstellen hin überprüft, um so seine Zuverlässigkeit sicherzustellen. „Unsere Methodik beruht darauf, den Anwendungsbereich des KI-Systems genau zu spezifizieren. Konkret geht es darum, den Raum der möglichen Eingaben, die das KI-System verarbeitet, zu parametrisieren und mit einer semantischen Struktur zu versehen. Mit den KI-Prüfwerkzeugen, die wir unter anderem im KI.NRW-Flagships-Projekt ›Zertifizierte KI‹ entwickelt haben, lassen sich dann Fehler der KI-Systeme erkennen“, erklärt Maximilian Poretschkin vom Fraunhofer IAIS.

Mehr lesen zum Thema künstliche Intelligenz

Exponat 2: Vertrauenswürdigkeit von KI-Modellen erleben

Das zweite Exponat ist als interaktives Spiel gestaltet. Hier können Besucherinnen und Besucher der Hannover Messe 2024 selbst erleben, ob und wie weit künstliche Intelligenz die eigene Entscheidungsfreiheit beeinflusst und wie vertrauenswürdig KI-basierte Systeme tatsächlich sind. Dabei fordert das interaktive Spiel Entscheidungen ein: In welchen Anwendungsgebieten sind KI-Systeme dem Menschen überlegen und welche Entscheidungen sollte der Mensch doch besser selbst treffen?

„Das Spiel macht für jeden erlebbar, wo KI ein hilfreicher Assistent sein kann und wo der Mensch besser mitentscheidet. Ziel ist immer, zur richtigen Entscheidung zu kommen, ohne dass der Mensch seine Entscheidungskompetenz und Souveränität verliert“, sagt Sebastian Schmidt vom Fraunhofer IAIS.

Anwendungsbeispiele von KI-Systemen

Neben dem Prüfungstool zum systematischen Testen von KI-Modellen und dem interaktiven Spiel, das die Vertrauenswürdigkeit von KI hinterfragt, präsentieren die Fraunhofer-Institute auf der Hannover Messe 2024 mehrere Anwendungsbeispiele. Sie zeigen, wie sich KI sicher und kontrolliert einsetzen lässt:

KI-Anwendung DigiWeld schützt sensible Daten

Das Fraunhofer IPA hat eine Lösung entwickelt, mit der Maschinen- und Anlagenbauer die Vorteile künstlicher Intelligenz nutzen können, ohne dabei sensible Produktionsdaten ihrer Kunden zu erfassen.

KI-Anwendung DisCo erkennt Fake News

Das Fraunhofer-Institut für Sichere Informationstechnologie SIT erprobt textforensische Methoden, um Journalisten bei der Identifizierung potenzieller Fake News zu unterstützen. Prüfwürdige Textpassagen werden farblich hervorgehoben.

KI-Anwendung OpenGPT-X trainiert Sprachmodelle

Das Konsortialprojekt OpenGPT-X zielt darauf ab, große KI-Sprachmodelle mit bis zu 24 europäischen Sprachen zu trainieren. Diese sollen Unternehmen als Open Source zur Verfügung stehen, um generative KI-Anwendungen zu entwickeln und Prozesse zu optimieren.

Uncertainty Wrapper sorgt für Sicherheit im Straßenverkehr

Der Uncertainty Wrapper des Fraunhofer-Instituts für Experimentelles Software Engineering IESE untersucht, wie zuverlässig KI-Vorhersagen sind, insbesondere im Bereich der Objekterkennung von Straßenschildern.

Diese Lösungen für konkrete Anwendungsbeispiele tragen dazu bei, den Einsatz von KI-Modellen verantwortungsvoll zu gestalten, um Sicherheit, Transparenz und Datenschutz zu gewährleiten. Nur so lässt sich das volle Potenzial von künstlicher Intelligenz ausschöpfen, darin sind sich die Forschenden einig. „Viele Technologien und Lösungen kommen aktuell nicht aus Europa. Die Forschung der Fraunhofer-Gesellschaft trägt dazu bei, die technologische Souveränität und Unabhängigkeit deutscher Unternehmen zu erhalten und auszubauen“, sagt Dr. Sonja Holl-Supra, von der Fraunhofer-Allianz Big Data AI.

Die Hannover Messe 2024 findet von 22.04 bis zum 26.04.2024 statt. In dieser Zeit können sich Interessierte am Fraunhofer Stand (Halle 2, Stand B24) anhand der Exponate über Anwendungsbeispiele und Lösungen für vertrauenswürdige KI informieren.

Ein Beitrag von:

  • Ines Klawonn

    Ines Klawonn

    Ines Klawonn hat als Redakteurin bei einem auf Energiekommunikation spezialisierten Medienunternehmen gearbeitet. Mittlerweile ist sie selbstständige Journalistin und gehört zum Team von Content Qualitäten. Ihre Themenschwerpunkte sind Gesundheit, Energie und Technik.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.