Künstliche Intelligenz 08.03.2024, 11:02 Uhr

TrustLLM soll besser werden als ChatGPT

In Europa wird derzeit ein Large Language Model entwickelt, das zuverlässiger, offener, transparenter und energieeffizienter sein soll als ChatGPT. Dies wird durch den Einsatz von Europas größtem Computer erreicht, der derzeit in Jülich gebaut wird.

Superrechner

Künstliche Intelligenz-Anwendungen erfordern erhebliche Rechenleistung.

Foto: Forschungszentrum Jülich / Sascha Kreklau

Könnte ein Mensch Texte besser schreiben als ChatGPT, ohne Urheberrechte zu verletzen, falsche Informationen zu liefern und die Datenschutzregeln zu beachten? Vielleicht – oder ein neues Large Language Model, das derzeit in Europa entwickelt wird. Es wird behauptet, dass es zuverlässiger, offener, transparenter und energieeffizienter sein soll als ChatGPT. Die Umsetzung erfolgt mithilfe von Europas größtem Computer, der derzeit in Jülich gebaut wird.

Das Modell soll TrustLLM heißen und, wie bereits erwähnt, in jeder Hinsicht besser sein als die kommerzielle Konkurrenz: zuverlässiger, offener, ethisch korrekt und nicht zuletzt sparsamer beim Energieverbrauch. Zudem soll das Modell auch für Sprachen geeignet sein, die von einer geringeren Anzahl von Menschen gesprochen werden. Das Ziel ist es, die Blackbox-Eigenschaften des Modells auf ein Minimum zu reduzieren und eine Opt-out-Funktion anzubieten. Diese ermöglicht es den Nutzern, bestimmte Datensätze auf Wunsch nicht zu verwenden, um das Modell weiter zu trainieren.

Top Stellenangebote

Zur Jobbörse
FH Münster-Firmenlogo
Mitarbeiter/in (w/m/d) zur Koordination der Schulkontakte FH Münster
Steinfurt Zum Job 
über ifp l Personalberatung Managementdiagnostik-Firmenlogo
Stellvertretende Leitung Bau- und Gebäudetechnik (m/w/d) über ifp l Personalberatung Managementdiagnostik
Rhein-Main-Gebiet Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Bauingenieur (w/m/d) Brückenprüfung Die Autobahn GmbH des Bundes
TAUW GmbH-Firmenlogo
Projektingenieur:in (m/w/d) Hydro(geo)logische Modellierungen TAUW GmbH
verschiedene Standorte Zum Job 
PNE AG-Firmenlogo
Experte Technischer Einkauf für Windenergieanlagen (m/w/d) PNE AG
Hamburg, Husum, Cuxhaven Zum Job 
Stadtwerke München GmbH-Firmenlogo
Instandhaltungsmanager*in (m/w/d) Stadtwerke München GmbH
München Zum Job 
Rittal GmbH & Co. KG-Firmenlogo
Maschinenbauingenieur / Prüfingenieur (m/w/d) Dynamik / Schwingungstechnik Rittal GmbH & Co. KG
Herborn Zum Job 
Fraunhofer-Institut für Angewandte Festkörperphysik IAF-Firmenlogo
Wissenschaftler (m/w/d) - angewandte NV-Magnetometrie und Laserschwellen-Magnetometer Fraunhofer-Institut für Angewandte Festkörperphysik IAF
Freiburg im Breisgau Zum Job 
Deutsche Rentenversicherung Bund-Firmenlogo
Teamleiter*in Bauprojekte Elektrotechnik (m/w/div) Deutsche Rentenversicherung Bund
Vita Zahnfabrik H. Rauter GmbH & Co. KG-Firmenlogo
Konstrukteurin / Konstrukteur Maschinen und Anlagen Vita Zahnfabrik H. Rauter GmbH & Co. KG
Bad Säckingen Zum Job 
Griesemann Gruppe-Firmenlogo
Lead Ingenieur Elektrotechnik / MSR (m/w/d) Griesemann Gruppe
Köln, Wesseling Zum Job 
Stadtwerke Frankenthal GmbH-Firmenlogo
Energieberater (m/w/d) Stadtwerke Frankenthal GmbH
Frankenthal Zum Job 
PARI Pharma GmbH-Firmenlogo
Senior Projekt-/Entwicklungsingenieur (m/w/d) in der Konstruktion von Medizingeräten PARI Pharma GmbH
Gräfelfing Zum Job 
ABO Wind AG-Firmenlogo
Projektleiter (m/w/d) Umspannwerke 110kV für erneuerbare Energien ABO Wind AG
verschiedene Standorte Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Abteilungsleitung (m/w/d) Umweltmanagement und Landschaftspflege Die Autobahn GmbH des Bundes
Berliner Wasserbetriebe-Firmenlogo
Bauingenieur:in Maßnahmenentwicklung Netze (w/m/d) Berliner Wasserbetriebe
Die Autobahn GmbH des Bundes-Firmenlogo
Ingenieur (w/m/d) Verkehrsbeeinflussungsanlagen Die Autobahn GmbH des Bundes
Hamburg Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Projektingenieur (w/m/d) Telematik-Infrastruktur Die Autobahn GmbH des Bundes
Frankfurt am Main Zum Job 
Residenzstadt Celle-Firmenlogo
Abteilungsleitung (d/m/w) für die Stadtplanung im Fachdienst Bauordnung Residenzstadt Celle
Stadt Nordenham-Firmenlogo
Ingenieur (m/w/d) der Richtung Bauingenieurwesen (Tiefbau, Siedlungswasserwirtschaft, Wasserwirtschaft, Wasserbau) oder Umweltingenieurwesen oder staatlich geprüften Techniker (m/w/d) der Siedlungswasserwirtschaft Stadt Nordenham
Nordenham Zum Job 

Trillion Rechenoperationen pro Sekunde

Der Kern des Trainingszentrums, die „Maschinenhalle“, wird derzeit in Jülich errichtet. Der Supercomputer JUPITER aus Jülich soll als erster Superrechner in Europa die Marke von einer Trillion Rechenoperationen pro Sekunde überschreiten und möglicherweise als größter KI-Rechner der Welt Durchbrüche bei der Anwendung von künstlicher Intelligenz ermöglichen.

Expert*innen um Dr. Stefan Kesselheim vom Jülich Supercomputing Centre des Forschungszentrums Jülich sind Teil des TrustLLM-Projekts und gewährleisten unter anderem eine optimale Effizienz des rechenintensiven Trainings auf allen Systemen.

Lesen Sie auch:

„Wir bauen gerade Europas größten Rechner, vielleicht sogar den weltweit größten KI-Rechner auf“, berichtet Kesselheim. Der Jülicher Supercomputer JUPITER  strebt als erster Superrechner in Europa danach, die Grenze von einer Trillion Rechenoperationen pro Sekunde zu überschreiten. Dadurch sollen bedeutende Fortschritte bei der Anwendung von künstlicher Intelligenz ermöglicht werden.

„Alle hoffen, dass man durch solche Sprachmodelle mehr Produktivität gewinnt. Es wäre aber bitter, wenn Europa diese Vorteile nur durch das Abgeben von Datensouveränität hätte“, sagt Stefan Kesselheim vom Supercomputing Centre des Forschungszentrums Jülich und verweist auf die Marktdominanz durch amerikanische Firmen. „Ganz unzweifelhaft haben gerade Google und OpenAi einen technologischen Vorsprung. Sie sind am weitesten darin, diese Sprachmodelle einsetzbar zu machen.“ Deshalb muss eine Alternative geschaffen werden. Eine Alternative, die zuverlässiger, offener, ethisch korrekt arbeitet. Eine Alternative, die die besser zu europäischen Werten passt. „Das Modell soll auch für Sprachen funktionieren, die nicht viele Menschen sprechen, zum Beispiel isländisch.“

Nutzer sollen dem Produkt vertrauen

„Die Nutzer sollen dem Produkt und dem Produktionsprozess vertrauen“, sagt Kesselheim. Damit entschlüsselt sich der Name des Projekts – denn das „Trust“ im Projektnamen ist Programm. „Das heißt, dass Datensätze nicht verwendet werden, bei denen der Besitzer verbietet, sie für das Trainieren eines Modells zu nutzen.“ Technisch gesehen wird das Ziel sein, der Maschine „Halluzinationen“ zu entziehen, also faktische Fehler zu eliminieren, die vom Modell als Wahrheit dargestellt werden.

Sprachmodelle nutzen künstliche neuronale Netzwerke, die von der Funktionsweise des Gehirns inspiriert sind. Ähnlich einem virtuellen Nürnberger Trichter wird der Software eine immense Textmenge zugeführt. Während des Trainings lernt die Maschine aus diesem Datensatz, indem sie nach Mustern sucht und darauf basierend neue Inhalte generiert. Die Genauigkeit dieser Inhalte wird jedoch nicht von den neuronalen Netzwerken bestimmt. Stattdessen geben sie lediglich die Wahrscheinlichkeit an, mit der ein Wort auf das nächste folgt. Daher ist das Ergebnis anfällig für Fehler, Manipulationen sowie Verletzungen des Datenschutzes, Urheberrechts und der Persönlichkeitsrechte. Mit anderen Worten: „Halluzination“ soll verschwinden.

Ziel: Geringere Energiekosten

Sowohl die Software als auch die Hardware werden daher auf Effizienz optimiert, da eine kürzere Trainingsdauer letztendlich zu geringeren Energiekosten führt. Dies ist jedoch keine einfache Aufgabe, wie Kesselheim zugibt. „Gerade auf so großen Maschinen ist es eine Herausforderung, sie so zum Laufen zu bringen, dass sie schnell und konkurrenzfähig sind“, erklärt der Experte.

Zu Beginn wird sich TrustLLM auf die germanische Sprachfamilie konzentrieren, zu der neben Englisch und Deutsch auch Sprachen wie Schwedisch, Dänisch und Isländisch gehören. Das Projekt ist jedoch offen gestaltet, sodass andere Forscher Sprachmodelle für zusätzliche europäische Sprachen übernehmen und weiterentwickeln können.

Ein Beitrag von:

  • Alexandra Ilina

    Redakteurin beim VDI-Verlag. Nach einem Journalistik-Studium an der TU-Dortmund und Volontariat ist sie seit mehreren Jahren als Social Media Managerin, Redakteurin und Buchautorin unterwegs.  Sie schreibt über Karriere und Technik.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.