89 % weniger Energie: Forschende schrumpfen KI-Modelle
Wie lässt sich der Stromhunger von KI bremsen? Forschende aus dem Saarland erreichen mit kleineren Modellen Einsparungen von bis zu 89 %
Rechenzentren (wie hier in den USA) setzen auf Photovoltaik, aber zum Teil auch auf Gaskraftwerke und Kernreaktoren. Der Energiehunger von KI-Anwendungen ist riesig.
Foto: Sepia100/smarterpix.com
Der US-Tech-Konzern Google investiert aktuell mehrere Milliarden Euro im Großraum Frankfurt am Main in den Bau eines neuen Rechenzentrums. Diese Entwicklung überrascht nicht. Die Region rund um den weltweit größten Internetknotenpunkt DE-CIX gehört neben London und Dublin zu den wichtigsten europäischen Standorten für digitale Infrastruktur. Bereits jetzt sind hier 76 Rechenzentren in Betrieb. Weltweit gibt es aktuell rund 12.000 dieser Gebäudekomplexe. Die Tendenz ist stark steigend, wie eine Studie von Allianz Commercial im vergangenen Jahr verdeutlichte.
Der Boom der Rechenzentren steht in engem Zusammenhang mit der rasant wachsenden Anwendung von künstlicher Intelligenz. Jede einzelne Anfrage an ChatGPT und ähnliche Systeme verbraucht Mengen an Energie. Um diesen Bedarf zu stillen, ist der Bau neuer Kraftwerke unabdingbar. Dabei setzen Betreiber auf erneuerbare Energien, aber ebenso auf Gaskraftwerke und Kernreaktoren.
Forschungsstrategien für Green IT
Ein Forschungskonsortium der Universität des Saarlandes und des DFKI hat den hohen Energieverbrauch von KI genau analysiert. In einem dreijährigen Projekt erforschten die Wissenschaftler verschiedene Methoden und entwickelten neue Technologien. Das übergeordnete Ziel ist eine drastische Reduzierung des Strombedarfs durch nachhaltige Algorithmen. Mittelständischen Betrieben sollen diese ressourcenschonenden Neuerungen neue technologische Möglichkeiten eröffnen. Die Forschenden werden ihre finalen Ergebnisse in Kürze zum Projektabschluss der Öffentlichkeit vorstellen.
Neue KI-Modelle drosseln Energiehunger
Um die Effizienz zu steigern, setzt das Forscherteam auf kleinere und bedarfsgerechte KI-Modelle. Aktuell nutzt künstliche Intelligenz riesige Datenmengen für jede noch so simple Aufgabe. Ein Chatbot durchsucht für eine einfache Antwort sein komplettes Datenmodell mit Billionen von Parametern. Im übertragenen Sinn durchforstet er eine ganze Bibliothek, anstatt nur das eine relevante Buch zu lesen. Die Wissenschaftler haben nun KI-Modelle entwickelt, die unwesentliche Parameter gar nicht erst verarbeiten. Das macht die Nutzung wesentlich sparsamer.
Diese spezialisierten Modelle filtern das exakt benötigte Wissen aus voluminösen „Lehrermodellen“ heraus. So entstehen passgenaue „Schülermodelle“, die um bis zu 90 % kleiner sind. Das Prinzip ähnelt der Komprimierung von Musikdaten ohne hörbaren Qualitätsverlust. Die Forscherin Sabine Janzen bestätigt den Erfolg dieser Methode. In Testläufen bringen die Schülermodelle eine vergleichbare Leistung, kommen jedoch mit bis zu 89 % weniger Energie aus. Diese schlanken KI-Modelle benötigen keine große IT-Infrastruktur mehr. Dadurch werden leistungsstarke Anwendungen endlich auch für den Mittelstand einfacher nutzbar.
40 % geringerer Strombedarf
Die spezielle Komprimierungsstrategie eignet sich allerdings nicht für jeden Anwendungsfall. Bei der Verarbeitung und Erzeugung von digitalen Bilddaten nutzen die Forschenden die sogenannte „Neuronale Architektursuche“. Dieses Verfahren ermittelt automatisch die beste Architektur für künstliche neuronale Netze. Das Team konnte zeigen, dass sich diese visuellen Modelle um fast 90 % verkleinern lassen. Der Energieverbrauch sank dabei um 40 %. Die Modelle büßen dabei keinerlei Leistung ein. Laut Sabine Janzen konnte die Genauigkeit der Modelle mit diesem Ansatz sogar noch verbessert werden. Das Vorbild für dieses maschinelle Lernen ist das menschliche Gehirn – ein absoluter Meister der Energieeffizienz.
Praxistest: KI sortiert Stahlschrott
Die Alltagstauglichkeit dieser ressourceneffizienten KI-Modelle bewies das Forscherteam in einem praxisnahen Versuch. Gemeinsam mit der SHS – Stahl-Holding-Saar entwickelten sie ein System für die automatische Schrottsortierung. Die KI erkennt anhand von Kameraaufnahmen zuverlässig, welche Sorte Stahlschrott geliefert wird. Mit herkömmlichen Methoden wäre ein solches visuelles KI-Modell gigantisch groß, stromfressend und damit unbrauchbar für die Praxis. Den Forschern gelang es jedoch, das Modell extrem kompakt und hochgradig energieeffizient zu gestalten. Der gesamte Stahlrecycling-Prozess wird dadurch profitabler und effektiver.
Am 30. Juli stellt das Forschungskonsortium diese Ergebnisse vor. Auf dem Campus der Universität des Saarlandes in Saarbrücken wollen die Experten ihre Konzepte für nachhaltige Rechenzentren auch anhand von Demonstrationen präsentieren.
Ein Beitrag von:
