Urheberrrechte 22.01.2024, 14:00 Uhr

Nightshade: Ein Tool, das die Bilder-KI vergiften kann

Nightshade, ein Tool der University of Chicago, schützt künstlerische Werke im KI-Training, indem es Bilder durch gezielte Fehlinformationen in „vergiftete“ Daten umwandelt.

KI

Nightshade: Künstlerischer Schutz vor KI-Training - Wie ein innovatives Tool der University of Chicago Bilder mit gezielten Fehlinformationen 'vergiftet'.

Foto: PantherMedia / agsandrew

Das Training von KI-Systemen ist ein komplexer Prozess, der eine Vielzahl von Datenquellen erfordert, um eine breite und robuste künstliche Intelligenz zu entwickeln. Oftmals werden für das Training große Mengen an Daten verwendet, darunter auch künstlerische Werke wie Bilder, Musik oder Texte. Dies wirft jedoch Fragen bezüglich der Urheberrechte der Künstler auf.

Denn: Generative KI-Modelle und ihre Trainer nutzen jegliche Online-Inhalte, um ihre Modelle zu trainieren. Es existieren nur wenige Instrumente für Inhalteigentümer und -schöpfer, um zu verhindern, dass ihre Inhalte ungefragt in ein generatives KI-Modell einfließen.

Top Stellenangebote

Zur Jobbörse
NORD-MICRO GmbH & Co. OHG-Firmenlogo
Service Ingenieur - Fans (m/w/d) NORD-MICRO GmbH & Co. OHG
Frankfurt am Main Zum Job 
DIgSILENT GmbH-Firmenlogo
Ingenieur Elektrotechnik (w/m/d) Power System Modelling DIgSILENT GmbH
Gomaringen Zum Job 
Steigerwald Strahltechnik GmbH-Firmenlogo
Entwicklungsingenieur für Schweißtechnik (m/w/d) Steigerwald Strahltechnik GmbH
Maisach Zum Job 
Wirtschaftsbetrieb Hagen AöR-Firmenlogo
Planungsingenieur*in Siedlungswasserwirtschaft (w/m/d) Wirtschaftsbetrieb Hagen AöR
Kölner Verkehrs-Betriebe AG-Firmenlogo
Leitung Technisches Gebäudemanagement (m/w/d) Kölner Verkehrs-Betriebe AG
Köln Innenstadt Zum Job 
Salzgitter Flachstahl GmbH-Firmenlogo
Elektrotechnik-Ingenieur Projektmanagement im Transformationsprojekt SALCOS (w/m/d) Salzgitter Flachstahl GmbH
Salzgitter Zum Job 
Salzgitter Flachstahl GmbH-Firmenlogo
Maschinenbau-Ingenieur Krantechnik im Transformationsprojekt SALCOS (w/m/d) Salzgitter Flachstahl GmbH
Salzgitter Zum Job 
Salzgitter Flachstahl GmbH-Firmenlogo
Maschinenbau-Ingenieur Projektmanagement im Transformationsprojekt SALCOS (w/m/d) Salzgitter Flachstahl GmbH
Salzgitter Zum Job 
Mauser Packaging Solutions-Firmenlogo
Instandhalter Elektrik/Elektronik (m/w/d) Mauser Packaging Solutions
Brühl bei Köln Zum Job 
Salzgitter Flachstahl GmbH-Firmenlogo
Versorgungstechnik-Ingenieur Projektmanagement im Transformationsprojekt SALCOS (w/m/d) Salzgitter Flachstahl GmbH
Salzgitter Zum Job 
Stadt Kempten (Allgäu)-Firmenlogo
Sachgebietsleitung (m/w/d) für den Bereich Bauunterhalt Stadt Kempten (Allgäu)
Kempten (Allgäu) Zum Job 
EWR Aktiengesellschaft-Firmenlogo
Mitarbeiter Geschäftsfeld-Owner "Lösungen elektrischer Energie" (m/w/d) EWR Aktiengesellschaft
Die Autobahn GmbH des Bundes-Firmenlogo
Ingenieur (w/m/d) Landespflege im Projektteam Straßenbau Die Autobahn GmbH des Bundes
Netphen Zum Job 
GINO AG Elektrotechnische Fabrik-Firmenlogo
Ingenieur / Techniker (m/w/d) für den Vertrieb GINO AG Elektrotechnische Fabrik
Grundbau GmbH-Firmenlogo
Projektingenieur oder -geologe (m/w/d) Spezialtiefbau Grundbau GmbH
Kaufbeuren, Memmingen Zum Job 
ELE Verteilnetz GmbH-Firmenlogo
Ingenieur:in / Mitarbeiter:in Einspeisemanagement im Bereich Regulierung / Netzwirtschaft ELE Verteilnetz GmbH
Gelsenkirchen Zum Job 
LR Pure Systems GmbH-Firmenlogo
Leiter (m/w/d) Industrielle Feinstreinigung LR Pure Systems GmbH
Ditzingen-Heimerdingen Zum Job 
Essex Furukawa Magnet Wire Germany GmbH-Firmenlogo
Elektroingenieur (m/w/d) Essex Furukawa Magnet Wire Germany GmbH
Bad Arolsen Zum Job 
LR Pure Systems GmbH-Firmenlogo
Prozessingenieur (m/w/d) LR Pure Systems GmbH
Ditzingen-Heimerdingen Zum Job 
Griesemann Gruppe-Firmenlogo
Lead Ingenieur MSR (m/w/d) Griesemann Gruppe
Köln, Wesseling Zum Job 

Jetzt gibt es eine Lösung, die Künstlern die Möglichkeit bietet, ihre Bilder durch gezielte Fehlinformationen zu ergänzen, um das Training von KI-Systemen zu beeinträchtigen.

Wissenschaftler der University of Chicago haben ein Tool namens Nightshade vorgestellt, das Künstlern ermöglicht, ihre Bilder (online) zu manipulieren, um zu verhindern, dass KI-Systeme sie ohne Erlaubnis erfassen, berichtet Golem in Bezug auf einen Bericht von The Register heißt.

Wie funktioniert Nightshade?

Die Nightshade-Software führt subtile Veränderungen an Bildern durch, die für den menschlichen Betrachter kaum wahrnehmbar sind, aber erhebliche Störungen in KI-Modellen verursachen können, die darauf trainiert werden. Ziel ist es, Künstlern zu ermöglichen, ihre Werke vor ungenehmigter Verwendung im Rahmen des Trainings zu schützen.

Mit anderen Worten: Nightshade ist ein Tool, das Bilder in für das Modelltraining ungeeignete Daten umwandelt. Es „vergiftet“ die Bilder, sodass Modelle, die ohne Erlaubnis darauf trainiert werden, unvorhersehbares Verhalten erlernen, das von den erwarteten Normen abweicht. Beispielsweise könnte eine Anfrage, wie die Forschenden mitteilen, nach einem Bild einer fliegenden Kuh im Weltraum stattdessen ein Bild einer Handtasche im Weltraum liefern.

Geistiges Eigentum schützen

Dieses Tool soll potenzielle Nutzer, seien es Unternehmen oder Einzelpersonen, davon abhalten, künstlerische Bilder für das Training von KI-Modellen zu verwenden, ohne zuvor die ausdrückliche Zustimmung der Urheber eingeholt zu haben. Diese Praxis wird zunehmend verbreitet, da KI-Modelle stark auf umfangreiche Bilddatenbanken angewiesen sind.

„Nightshade stellt ein leistungsstarkes Instrument für Inhaltsinhaber dar, um ihr geistiges Eigentum vor Modelltrainern zu schützen, die Urheberrechtsvermerke, Anweisungen zum Nicht-Scrapen/Crawlen und Opt-out-Listen ignorieren oder missachten“, so die Autoren in ihrem Artikel.

Es gibt aber auch Kritikpunkte: Matthew Guzdial, Assistenzprofessor für Informatik an der University of Alberta, hat in einem Beitrag in sozialen Medien geschrieben: „Das ist eine interessante und zeitgemäße Arbeit! Aber ich mache mir Sorgen, dass sie als die Lösung überbewertet wird. Sie funktioniert nur mit CLIP-basierten Modellen und laut den Autoren wären 8 Millionen ‚vergiftete‘ Bilder erforderlich, um einen signifikanten Einfluss auf die Generierung ähnlicher Bilder für LAION-Modelle zu haben.“

Abwehr gegen Stilkopien: Nightshade und Glaze im Einsatz

Nightshade wurde von der gleichen Forschergruppe an der University of Chicago entwickelt, die auch das Abwehrtool Glaze konzipierte. Glaze zielt darauf ab, die KI bei der Imitation künstlerischer Stile zu beeinträchtigen.

„Stilkopien führen zu einer Reihe von schädlichen Auswirkungen, die auf den ersten Blick möglicherweise nicht offensichtlich sind“, erklären die Wissenschaftler. „Für Künstler, deren Stile absichtlich kopiert werden, bedeutet dies nicht nur einen Verlust an Aufträgen und Grundgehalt, sondern auch minderwertige synthetische Kopien, die online verstreut sind, schmälern ihre Marke und Reputation. Am wichtigsten ist jedoch, dass Künstler ihre Stile mit ihrer eigentlichen Identität verbinden“.

Ein Beitrag von:

  • Alexandra Ilina

    Redakteurin beim VDI-Verlag. Nach einem Journalistik-Studium an der TU-Dortmund und Volontariat ist sie seit mehreren Jahren als Social Media Managerin, Redakteurin und Buchautorin unterwegs.  Sie schreibt über Karriere und Technik.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.