Neue Mini-Labore testen künstliche Intelligenz auf Herz und Nieren

Künstliche Intelligenz (KI) ist aus Forschung, Industrie und Alltag nicht mehr wegzudenken. Doch bevor KI-Anwendungen in der realen Welt eingesetzt werden, müssen sie sich bewähren. Viele funktionieren in der Theorie einwandfrei, zeigen aber unter echten Bedingungen Schwächen. Deshalb brauchen Forschende eine Umgebung, in der sie die Zuverlässigkeit ihrer Modelle überprüfen können. Der Mathematiker Juan Gamella von der ETH Zürich hat dafür eine innovative Lösung vorgestellt: sogenannte Mini-Labore.

Diese Mini-Labore bieten eine kontrollierte Testumgebung, in der KI-Algorithmen unter realitätsnahen Bedingungen geprüft werden. Sie liefern echte Messdaten und helfen dabei, Fehler frühzeitig zu erkennen und zu beheben. Das Ziel: Künstliche Intelligenz, die auch außerhalb von Simulationen verlässlich funktioniert.

Warum Simulationen nicht ausreichen

Um neue KI-Modelle zu testen, greifen viele Teams auf Computersimulationen zurück. Diese sind kostengünstig und schnell. Doch Simulationen können reale Umgebungen nur näherungsweise abbilden. Wer seine Algorithmen ausschließlich in simulierten Szenarien testet, riskiert eine Überschätzung ihrer Leistungsfähigkeit. Fehler oder unvorhergesehene Wechselwirkungen bleiben oft unentdeckt.

Hier setzen die Mini-Labore an. Sie schließen die Lücke zwischen Simulation und Wirklichkeit. „Die Mini-Labore stellen eine flexible Testumgebung bereit, die echte Messdaten liefert. Sie sind ein bisschen wie ein Experimentierfeld für Algorithmen“, sagt Gamella.

Der Aufbau der Mini-Labore

Die von Gamella entwickelten Mini-Labore sind etwa so groß wie ein Desktop-Computer. Sie lassen sich bequem vom PC aus steuern. Ihre Besonderheit liegt darin, dass sie auf bekannten physikalischen Prinzipien basieren. Forschende können diese Grundlagen nutzen, um das Verhalten ihrer Algorithmen zu überprüfen.

Gamella hat zwei verschiedene Mini-Labore konzipiert. Eines simuliert ein dynamisches physikalisches System, vergleichbar mit Wind. Es eignet sich zur Prüfung von KI-Modellen, die Regelungs- oder Steuerungsprobleme lösen sollen. Das andere orientiert sich an optischen Gesetzen und erlaubt die Evaluation von Algorithmen, die solche Gesetzmäßigkeiten aus Daten lernen müssen.

Inspiriert vom Windkanal

Gamella zieht einen Vergleich zum Flugzeugbau: „Wie der Windkanal bei Flugzeugen dienen die Mini-Labore der Sicherheitsprüfung, um zu gewährleisten, dass alles in einem frühen Stadium funktioniert, wenn wir von der Simulation zur Realität übergehen.“

Auch in der Luftfahrt beginnt die Entwicklung im Rechner. Doch bevor ein echtes Flugzeug abhebt, wird ein Modell im Windkanal getestet. Genau diese Funktion übernehmen Mini-Labore für KI-Systeme.

Von der Forschung in die Anwendung

Die Einsatzmöglichkeiten der Mini-Labore reichen über die reine Grundlagenforschung hinaus. Ein Beispiel: Der Licht-Tunnel, Gamellas zweites Mini-Labor, kommt bereits in der industriellen Fertigung zum Einsatz. Dort hilft es, optische Probleme zu lösen und KI-Modelle für bildgebende Verfahren zu trainieren. Auch bei der Verbesserung großer Sprachmodelle (Large Language Models) haben die Mini-Labore ihren Beitrag geleistet.

Ein weiteres Ziel ist es, die Kausalität in KI-Systemen besser zu verstehen. Viele Algorithmen arbeiten bislang mit statistischen Zusammenhängen. Um zuverlässige und transparente Entscheidungen zu treffen, müssen KI-Modelle aber auch Ursache-Wirkung-Beziehungen erkennen.

Kausalkammern für die KI-Forschung

Gemeinsam mit den ETH-Professoren Peter Bühlmann und Jonas Peters hat Gamella Methoden entwickelt, um kausale Zusammenhänge in Daten zu identifizieren. Diese sind schwer zu testen, da reale Daten mit bekannten Ursache-Wirkungs-Beziehungen selten sind. Die Mini-Labore bieten hier einen großen Vorteil: In ihnen lassen sich gezielt Szenarien erzeugen, in denen die kausalen Verhältnisse bekannt sind. Gamella nennt seine Geräte daher auch „Kausalkammern“.

Die Forschenden überprüften in Studien, ob KI-Modelle mit diesen Daten korrekte kausale Modelle erlernen. Dabei beobachteten sie auch, wie gut die Modelle mit plötzlichen Veränderungen oder ungewohnten Situationen umgehen.

Auch für die Lehre interessant

Ein unerwarteter Vorteil der Mini-Labore zeigt sich in der Ausbildung. Sie eignen sich hervorragend als praktische Übungsumgebung für Studierende in den Bereichen KI, Statistik und Ingenieurwissenschaften. „Da die Mini-Labore ein sicheres Experimentierfeld für Algorithmen bieten, sind sie auch ein tolles «Spielfeld» für Studierende“, sagt Gamella. Erste Pilotprojekte an der ETH Zürich und der Universität Lüttich laufen bereits.

Hier geht es zur Originalpublikation