Kommunikation zwischen Fahrer und Auto 04.07.2024, 07:00 Uhr

Blick in die Zukunft: Wenn das Auto dank KI zum Butler wird

Mithilfe von Künstlicher Intelligenz (KI) wollen Forschende die Kommunikation zwischen Fahrzeug und Fahrerinnen sowie Fahrer verbessern. Dafür verbinden sie Sensorik zur Innenraumbeobachtung mit Sprachmodellen zu Vision-Language-Modellen, die für mehr Komfort und Sicherheit sorgen sollen. 

Mensch sitzt im Auto, telefoniert und lässt das Auto alleine fahren.

Damit das Auto künftig autonom fährt, sind Bildverarbeitungsmodelle im Auto notwendig, welche visuelle Daten entsprechend verarbeiten.

Foto: Fraunhofer IOSB/Zensch

Künftig sollen Autos weitgehend autonom fahren, was Passagieren die Möglichkeit bietet, sich während der Fahrt mit anderen Dingen zu beschäftigten. Damit das möglichst bald Realität wird, gibt es zahlreiche Forschungsprojekte rund um das autonome Fahren. Die Fraunhofer-Instituten IOSB und IAO erforschen zum Beispiel gemeinsam mit Partnern wie Continental, Ford und Audi die Kommunikation zwischen Fahrerinnen und Fahrern sowie dem Auto. Im Rahmen des Projekts KARLI (Künstliche Intelligenz für Adaptive, Responsive und Levelkonforme Interaktion) geht es vor allem um die Komplexität der Aufgabe.

Die Forschenden entwickeln KI-Funktionen für die Automationslevel zwei bis vier. Sie erfassen Zustände von Fahrenden und gestalten unterschiedliche Mensch-Maschine-Interaktionen, die für die jeweiligen Level typisch sind. Je nach Automatisierungsgrad müssen sich die Passagiere auf die Straße konzentrieren oder können sich anderen Tätigkeiten widmen. Die Anforderungen variieren stark – von der Übernahme des Lenkrads innerhalb von zehn Sekunden bis hin zu gar keinem Eingreifen. Und genau das macht die Aufgabe so schwierig. Doch am Ende soll das Auto den Passagieren ja auch wichtige Hinweise geben, zum Beispiel: „Achtung, wenn du jetzt weiterliest, könnte dir bei der kurvigen Strecke schlecht werden. In fünf Minuten fahren wir auf der Autobahn, dann ist es besser.“ Oder: „Gleich wird es regnen und wir müssen das automatische Fahren beenden. Bitte bereite Dich darauf vor, selbst ein Stück zu fahren. Es tut mir leid, dass Du Deinen Laptop jetzt sicher verstauen musst. Sicherheit geht vor.“

Künstliche Intelligenz warnt Passagiere im Auto

Aktuell gibt es fünf verschiedene Ebenen der Automatisierung: Level 0 bedeutet nicht automatisiert, Level 1 assistiert, Level 2 teilautomatisiert, Level 3 hochautomatisiert, Level 4 vollautomatisiert und Level 5 steht für autonom. Die im Projekt KARLI entwickelten Applikationen fokussieren sich auf drei Schwerpunkte: Warnungen und Hinweise sollen levelkonformes Verhalten fördern und beispielsweise verhindern, dass Fahrende in einem Moment abgelenkt sind, in dem jedoch volle Aufmerksamkeit erforderlich ist. Die Art und Weise der Kommunikation hängt vom jeweiligen Level ab und kann sowohl visuell, akustisch, haptisch oder kombiniert erfolgen. Für die Steuerung sind künftig sogenannte KI-Agenten zuständig. Sie übernehmen die Interaktion, deren Leistungsfähigkeit und Zuverlässigkeit die Partner evaluieren.

Der zweite Schwerpunkt liegt auf der Reiseübelkeit, eines der größten Probleme beim passiven Fahren. Immerhin leiden zwischen 20 und 50 Prozent der Menschen daran. Das Risiko dafür soll künftig vorhergesehen und minimiert werden. „Durch den Abgleich von Aktivitäten der Insassen mit erwartbaren Beschleunigungen auf kurvenreichen Strecken können wir eine KI befähigen, den richtigen Insassen zum richtigen Zeitpunkt Tipps zur Vermeidung von Motion Sickness, mit Bezug auf deren aktuelle Aktivitäten zu geben“, erklärt Frederik Diederichs, Projektkoordinator am Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB in Karlsruhe. Dafür nutzen die Forschenden sogenannte generierte User Interfaces (GenUIn) zur individualisierten Interaktion zwischen Mensch und künstlicher Intelligenz.

Stellenangebote im Bereich Softwareentwicklung

Softwareentwicklung Jobs
ARTS Experts GmbH-Firmenlogo
Technischer Ausbilder für Luftfahrttechnik, Elektrik & Avionik (m/w/d) ARTS Experts GmbH
Oberpfaffenhofen bei München Zum Job 
IFCO Management GmbH-Firmenlogo
Electrical Engineer (m/f/d) IFCO Management GmbH
München Zum Job 
DFS Deutsche Flugsicherung GmbH-Firmenlogo
Ingenieur* Site Reliability DFS Deutsche Flugsicherung GmbH
DFS Deutsche Flugsicherung GmbH-Firmenlogo
Ingenieur/Informatiker/Techniker* Fluglotsensimulator DFS Deutsche Flugsicherung GmbH
München Zum Job 
DFS Deutsche Flugsicherung GmbH-Firmenlogo
Flugsicherungsingenieur* operative Inbetriebhaltung DFS Deutsche Flugsicherung GmbH
Karlsruhe Zum Job 
Deutsches Zentrum für Luft- und Raumfahrt e. V.-Firmenlogo
Abteilungsleiter/in für "Projekte und Querschnittsthemen" - (Wirtschafts-)Ingenieur/in, Naturwissenschaftler/in o. ä. (w/m/d) Deutsches Zentrum für Luft- und Raumfahrt e. V.
Hecklingen-Cochstedt Zum Job 
Bundeswehr-Firmenlogo
Ingenieurin / Ingenieur mit Master in Informatik / Elektrotechnik - Beamten - Ausbildung (m/w/d) Bundeswehr
Mannheim Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Ingenieur (w/m/d) Elektrotechnik / Kommunikationstechnik Die Autobahn GmbH des Bundes
Frankfurt am Main Zum Job 
AECOM Deutschland GmbH-Firmenlogo
Electrical Engineer (m/w/d) AECOM Deutschland GmbH
Frankfurt Zum Job 
Hochschule Hamm-Lippstadt-Firmenlogo
Wissenschaftliche*r Mitarbeiter*in (m/w/d) Bereich Energietechnik, Maschinenbau, Elektrotechnik - Schwerpunkt netzgebundene Lösungen Wärmeversorgung Hochschule Hamm-Lippstadt
Hochschule Hamm-Lippstadt-Firmenlogo
Wissenschaftliche*r Mitarbeiter*in (m/w/d) Bereich Energietechnik, Maschinenbau, Elektrotechnik - Schwerpunkt dezentrale Lösungen Wärmeversorgung Hochschule Hamm-Lippstadt
Hochschule Hamm-Lippstadt-Firmenlogo
Wissenschaftliche*r Mitarbeiter*in (m/w/d) Bereich Energietechnik, Maschinenbau, Elektrotechnik - Schwerpunkt netzgebundene Lösungen Hochschule Hamm-Lippstadt
RHEINMETALL AG-Firmenlogo
Verstärkung für unsere technischen Projekte im Bereich Engineering und IT (m/w/d) RHEINMETALL AG
deutschlandweit Zum Job 
Bau- und Liegenschaftsbetrieb NRW-Firmenlogo
Ingenieurinnen / Ingenieure bzw. Technikerinnen / Techniker oder Meisterinnen / Meister der Elektrotechnik (w/m/d) Bau- und Liegenschaftsbetrieb NRW
Münster Zum Job 
naturenergie netze GmbH-Firmenlogo
Meister / Techniker (m/w/d) Leit- und Fernwirktechnik naturenergie netze GmbH
Donaueschingen, Rheinfelden (Baden) Zum Job 
Safran Data Systems GmbH-Firmenlogo
Testingenieur / Certified Tester (m/w/d) Safran Data Systems GmbH
Bergisch Gladbach Zum Job 
DAkkS Deutsche Akkreditierungsstelle GmbH-Firmenlogo
Ingenieur/in der Elektrotechnik, Nachrichtentechnik, Hochfrequenztechnik oder Medizintechnik (w/m/d) DAkkS Deutsche Akkreditierungsstelle GmbH
Berlin, Frankfurt am Main Zum Job 
CoorsTek GmbH-Firmenlogo
Prozessingenieur / Ingenieur (m/w/d) Produktion CoorsTek GmbH
Mönchengladbach Zum Job 
Groeneveld-BEKA GmbH-Firmenlogo
Electronic Engineer / Elektroniker (m/w/d) Groeneveld-BEKA GmbH
Pegnitz Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Projektingenieur (w/m/d) mit Schwerpunkt Tunnelbetrieb Die Autobahn GmbH des Bundes

Sprachmodelle und Sensorik als Grundlage für KI-Interaktion

Der dritte Schwerpunkt beschäftigt sich mit genau dieser KI-Interaktion. Im Zentrum steht dabei GenUIn. Die Oberfläche kann individualisierte Ansprachen erstellen und dabei helfen, wie sich Übelkeit reduzieren lässt. Die dafür notwendigen Informationen stammen von aktuellen Tätigkeiten der Passagiere im Fahrzeug, welche durch Sensoren erfasst werden. Darüber hinaus sollen aber auch Wünsche von Passagieren, welche diese konkret äußern, einbezogen werden. Dadurch entstehe eine immer konkretere Personalisierung und das Auto passe sich so stetig mehr an die Bedürfnisse an.

Die Aktivitäten im Auto erfassen verschiedene KI-gestützte Sensoren, vor allem optische Sensoren aus den Innenraumkameras. Sie sind künftig ohnehin Pflicht im Auto – das wird durch die aktuelle Gesetzgebung legitimiert –, da sie sicherstellen, wie fahrtüchtig Fahrerin oder Fahrer ist. In Kombination mit großen Sprachmodellen werden diese Daten dann zu Vision-Language-Models (VLM) und stellen die Basis dafür, dass moderne Fahrerassistenzsysteme in (teil-)autonomen Fahrzeugen Situationen im Innenraum semantisch erfassen und darauf reagieren können. Damit solche Systeme auch auf eine breite Akzeptanz stoßen, sind Vertrauen in den Anbieter, Datensicherheit und ein direkter Nutzen für die Fahrenden unerlässlich. Für die Forschenden stehen deshalb eine bestmögliche Anonymisierung, Datensicherheit sowie eine transparente und erklärbare Datenerfassung im Mittelpunkt. Sie setzen dafür auf Transparenz: Es solle deutlich werden, was ein Sensor erfasst und wofür diese Informationen genutzt werden. In weiteren Projekten arbeiten die Fraunhofer-Forschenden daran, Kameradaten zu anonymisieren, diese sparsam zu verarbeiten und effektiv zu schützen. Ein Alleinstellungsmerkmal des Projekts ist zudem die Dateneffizienz. „Unser Small2BigData-Ansatz braucht nur wenige, qualitativ hochwertige KI-Trainingsdaten, die empirisch erhoben und synthetisch erzeugt werden. Sie bilden die Basis dafür, dass die Automobilhersteller wissen, welche Daten sie später im Serienbetrieb erfassen müssen, um das System nutzen zu können. So ist der Datenaufwand überschaubar und die Projektergebnisse werden skalierbar“, sagt Diederichs.

Ein Beitrag von:

  • Nina Draese

    Nina Draese hat unter anderem für die dpa gearbeitet, die Presseabteilung von BMW, für die Autozeitung und den MAV-Verlag. Sie ist selbstständige Journalistin und gehört zum Team von Content Qualitäten. Ihre Themen: Automobil, Energie, Klima, KI, Technik, Umwelt.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.