Autonomes Fahren: Warum Fahrzeuge jetzt ihre eigene KI überwachen

Autonomes Fahren gilt als eines der großen Technologieversprechen unserer Zeit – effizienter Verkehr, weniger Unfälle, weniger Staus. Doch der Weg dorthin ist steinig. Denn die Realität zeigt: Selbst modernste KI-Systeme geraten bei ungewöhnlichen Situationen ins Straucheln. Forschende des ZDIN wollen genau hier ansetzen.

Die Grenzen der KI im Straßenverkehr

Autonome Fahrzeuge nehmen ihre Umgebung über Sensoren wie Kameras und LiDAR wahr. Eine KI wertet diese Daten aus und entscheidet, wie das Fahrzeug fahren soll. Doch KI lernt aus Beispielen und kann nur einschätzen, was sie während des Trainings bereits kennengelernt hat.

Das ist ein ganz grundlegendes Problem von KI-Systemen: Sie erkennen Muster, haben aber Probleme diese zu interpretieren. Wenn die KI in den Trainingsdaten nur stehende Menschen kennt, könnte es eine liegende Person im echten Verkehr mit einem Tier oder sogar einer Fahrbahnmarkierung verwechseln. Auch ungewöhnliche Wetterbedingungen, seltene Verkehrskonstellationen oder beschädigte Infrastruktur können die KI aus dem Konzept bringen, weil sie diese Situationen zuvor nie „gesehen“ hat.

Hinzu kommt, dass die Sensoren nicht immer perfekt zusammenspielen. Eine Kamera kann ein Tier auf der Straße erfassen, während der LiDAR-Sensor keine Rückmeldung liefert – sei es durch Reflexionen oder Verschmutzungen. Solche Widersprüche zwischen den einzelnen Sensoren erzeugen Komplikationen im System und können dann zu fehlerhaften Entscheidungen führen. Genau diese Mischung aus „unvollständigem Wissen“ und technischer Inkonsistenz macht autonome Fahrzeuge derzeit noch anfällig für Fehler.

Ein Blick in die Praxis verdeutlicht die technische Spannbreite

Deutsche Hersteller wie Mercedes setzen auf umfangreiche Hardware-Redundanz. Fahrzeuge wie der Mercedes EQS nutzen LiDAR, Ultraschall, Kameras, Mikrofone zur Sirenenerkennung und sogar Feuchtigkeitssensoren. Diese Vielfalt dient dazu, Ausfälle einzelner Systeme aufzufangen. Sie entspricht den hiesigen gesetzlichen Anforderungen und reduziert Haftungsrisiken, verursacht aber hohe Kosten und lange Entwicklungszeiten.

Chinesische Hersteller verfolgen einen anderen Ansatz. Auf ihrem Heimatmarkt können sie stärker auf Software statt Hardware setzen. Fehlende oder unsichere Sensordaten werden durch leistungsstarke KI kompensiert, die mit Millionen realer Fahrkilometer trainiert wurde. Statt zehn verschiedene Sensoren einzubauen, verlassen sie sich auf neuronale Netze, die Lücken schließen und Prognosen berechnen. Huaweis ADS-3.0-System etwa setzt zwar ebenfalls auf einen hochauflösenden 192-Linien-LiDAR und zahlreiche Kameras, konzentriert sich aber stärker auf KI-basierte Vorhersagen: Was die Hardware nicht sieht, errechnet eben die Software.

Mehr zum Stand des automatisierten Fahren in Deutschland und China: Autonomes Fahren: Wie Deutschland das Rennen verliert

Monitoring während der Fahrt

Um diese zuvor benannten Schwachstellen aufzufangen, setzen die Wissenschaftler und Wissenschaftlerinnen aus Niedersachsen auf zwei Strategien:

Funktionales Monitoring

Anders als klassische Tests, die vor der Zulassung stattfinden, prüft dieses Monitoring die tatsächliche Fahrumgebung in Echtzeit. Dabei richtet es den Blick auf die Hard- und Software des Fahrzeuges selbst.

Es überprüft permanent, ob Sensoren, Steuergeräte und Algorithmen plausible und konsistente Daten liefern. Sobald die Sensorik widersprüchliche Informationen meldet oder eine Messung auffällig erscheint, stuft das System die Situation als unsicher ein. Die Mechanik wirkt also wie ein technischer „Realitätscheck“. Das Fahrzeug verlässt sich nicht blind auf die Berechnungen der KI, sondern prüft aktiv, ob die Datengrundlage überhaupt stimmt.

Erkennt die Kamera beispielsweise ein Tier, während der LiDAR-Sensor kein Objekt registriert, wertet das Monitoring diese Diskrepanz als potenzielles Risiko. Auch abweichende Objektklassifizierungen – etwa wenn die Kamera eine Person sieht, der LiDAR aber ein Hindernis – führen zu einem Alarm. In diesen Momenten setzt das Fahrzeug automatisch eine Sicherheitsmaßnahme um, also eine Gefahrenbremsung oder eine starke Reduktion der Geschwindigkeit.

Situatives Monitoring

Das situative Monitoring richtet den Fokus auf die Frage, ob die KI die Situation überhaupt richtig einschätzen kann. Dazu analysiert das Monitoring permanent, ob die aktuelle Verkehrsszene in ähnlicher Form im Trainingsdatensatz enthalten war.

Moderne neuronale Netze arbeiten statistisch; sie erkennen Muster, die ihnen bekannt vorkommen. Doch sobald eine Szene zu weit von den gelernten Beispielen abweicht, steigt die Unsicherheit. Erkennt das System etwas völlig Neues, etwa ein unbekanntes Objekt oder ein ungewöhnliches Verhalten, schlägt es Alarm.

Statt blind zu glauben, was die KI ausgibt, fragt das System: „Hat die KI genug Erfahrung, um diese Situation überhaupt zu beurteilen?“  Das situative Monitoring erkennt die Abweichung – selbst dann, wenn die KI „zuversichtlich“ wirkt – und löst einen Sicherheitsmodus aus.

Leitstand entscheidet im Ausnahmefall

Doch selbst das beste Monitoring ersetzt keinen Menschen, zumindest nicht in komplexen oder hochkritischen Situationen. Deshalb werden die Monitoring Systeme des ZDIN nicht vollständig sich selbst überlassen. In Not- oder Ausnahmefällen bringen sie das Fahrzeug durch Auslösen von Sicherheitsmaßnahmen, wie Notbremsung, zum Stillstand und melden den Vorfall an das Command-And-Control-Center im Remote-Leitstand.

Dort verfolgen geschulte Operatorinnen und Operatoren den Fahrzeugbetrieb in Echtzeit und können innerhalb von Sekunden reagieren, indem sie das Fahrzeug steuern oder Entscheidungen treffen. Sobald die Sicherheitsoperatoren das Problem remote gelöst haben, können sie die Fahrkontrolle wieder an das technische Fahrsystem im Fahrzeug übergeben.