Studie des KIT 15.10.2019, 13:05 Uhr

Künstliche Intelligenz übernimmt diskriminierende Muster

Ob als Robo-Recruiter bei der Bewerbung, als Chatbot im Kundenservice oder als Big-Data-Analyst im polizeilichen Einsatz, künstliche Intelligenz wird zunehmend zum Gesprächspartner in wichtigen Situationen und damit zum Problem.

Frau sitzt alleine in einem Seminarraum

Foto: Patrick Langer/KIT

Künstliche Intelligenz ist nicht frei von Vorurteilen, Fehlinformationen und Hass. Deshalb können auch algorithmische Systeme diskriminieren und Menschen in ihren Rechten beschneiden, sagt ein KIT-Forscher. Es ist das Ergebnis einer aktuellen Studie des KIT-Instituts für Technikfolgenabschätzung und Systemanalyse (ITAS) im Auftrag des Bundes.

Künstliche Intelligenz spiegelt die Gesellschaft

Der Clou: Wir nennen es zwar künstliche Intelligenz, in Wirklichkeit aber besteht KI aus Algorithmen, die auf vorhandenes Wissen zurückgreifen. Damit sind Algorithmen immer nur so frei von Fehlern, wie die Information, aus der sie ihr Wissen schöpfen. Schließlich wird jeder Algorithmus von Menschen programmiert und mit Daten gefüttert, die vom Menschen stammen – seien es wissenschaftliche Erkenntnisse, Postings aus sozialen Medien oder der ganze Wust an Information und Desinformation, der sich im Internet so tummelt. All das ist gespickt mit menschlichen Fehlern, mit Irrtümern und Gemeinheiten und deshalb kann auch kein Algorithmus dieser Welt frei davon sein.

Diese Erfahrung mussten auch schon die großen Internetkonzerne machen. Vor einigen Jahren musste Microsoft erste Experimente mit Chatbot Tay abbrechen, weil er manipulierbar war. Statt sich den Jargon von Jugendlichen anzueignen und freundlich mitzuplaudern, beleidigte Tay schließlich Frauen und leugnete historische Tatbestände. Und das Problem der manipulierbaren lernenden Systeme ist bis heute nicht gelöst. Zuletzt zog Google den Zorn von Frauen- und Gleichstellungsbeauftragten auf sich, weil die Suchmaschine die Suche nach „Frauen können“ automatisch ergänzte mit „…nicht Auto fahren“ und „…keine Quadrate zeichnen“. (Anmerkung am Rande: Wenn man „Männer können“ eingibt, ergänzt Google unter anderem mit „…nicht saufen“ und „…nicht zuhören“.) Was für einige eher komisch klingen mag, ist in vielen Anwendungsfällen ein handfestes Problem.

KI liefert keine objektiveren Daten

Algorithmen können Datenmengen wesentlich schneller erfassen und verarbeiten als Menschen. Das macht algorithmische Systeme so wertvoll für Unternehmen, öffentliche Institutionen und Banken. Denn ist das lernende System erst einmal programmiert, sparen die einsetzenden Firmen viel Geld und Zeit. Das ist der Grund, weshalb immer mehr KI-Systeme im Einsatz sind. Sie entscheiden über die Vergabe von Krediten, prüfen die Eignung von Bewerbern im Recruitingprozess und suchen im Internet nach Äußerungen von strafrechtlichem Belang.

Stellenangebote im Bereich IT/TK-Projektmanagement

IT/TK-Projektmanagement Jobs
FlowChief GmbH-Firmenlogo
Techniker:in Automatisierung (SCADA) (m/w/d) FlowChief GmbH
Wendelstein Zum Job 
Wirtgen GmbH-Firmenlogo
Software-Ingenieur (m/w/d) Elektrotechnik im Bereich Steuerungssoftware für mobile Arbeitsmaschinen Wirtgen GmbH
Windhagen Zum Job 
Niedersachsen.next GmbH-Firmenlogo
Themenmanager Mobilität und Digitalisierung | Mobilitätskonzepte (m/w/d) Niedersachsen.next GmbH
Hannover Zum Job 
Frankfurt University of Applied Sciences-Firmenlogo
Professur "Vernetzte Eingebettete Systeme" (w/m/d) Frankfurt University of Applied Sciences
Frankfurt am Main Zum Job 
Energie und Wasser Potsdam GmbH-Firmenlogo
Geoinformatiker (m/w/d) / Vermessungsingenieur (m/w/d) als Projektleiter (m/w/d) GIS - Fachanwendungen Energie und Wasser Potsdam GmbH
Potsdam Zum Job 
Frankfurt University of Applied Sciences-Firmenlogo
Professur "Software Engineering - Moderne Verfahren" (w/m/d) Frankfurt University of Applied Sciences
Frankfurt am Main Zum Job 
Niedersächsische Landesbehörde für Straßenbau und Verkehr-Firmenlogo
BIM-Manager (m/w/d) für Bauprojekte Niedersächsische Landesbehörde für Straßenbau und Verkehr
Hannover Zum Job 
Westfälische Hochschule-Firmenlogo
Professur Künstliche Intelligenz und Industrielle Automation (W2) Westfälische Hochschule
Gelsenkirchen Zum Job 
NORDEX GROUP-Firmenlogo
SCADA Projektingenieur (m/w/d) NORDEX GROUP
Hamburg, Rostock Zum Job 
Hochschule für Technik und Wirtschaft Berlin-Firmenlogo
Professor (W2) | Permanent Computer Architecture and Computer Systems Hochschule für Technik und Wirtschaft Berlin
Die Autobahn GmbH des Bundes-Firmenlogo
Ingenieur Vermessung (m/w/d) Die Autobahn GmbH des Bundes
Montabaur Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Lösungsentwickler (w/m/d) im Digitallabor Geoinformatik Die Autobahn GmbH des Bundes
Hochschule Osnabrück-Firmenlogo
Tandem-Professur Robotik, Data Science and AI, Digitalisierte Wertschöpfungsprozesse Hochschule Osnabrück
Osnabrück, Lingen Zum Job 
Tagueri AG-Firmenlogo
Consultant OTA - Connected Cars (m/w/d)* Tagueri AG
Stuttgart Zum Job 
Hochschule für Technik und Wirtschaft Berlin-Firmenlogo
Professur (W2) | auf Lebenszeit Fachgebiet Rechnerarchitekturen und Rechnersysteme Hochschule für Technik und Wirtschaft Berlin
B. Braun Melsungen AG-Firmenlogo
Global Lead (w/m/d) Operational Technology (OT) B. Braun Melsungen AG
Melsungen Zum Job 
WIRTGEN GmbH-Firmenlogo
Duales Studium Software Engineering - Bachelor of Engineering (m/w/d) WIRTGEN GmbH
Windhagen, Remagen Zum Job 
VIAVI-Firmenlogo
Senior / Software Engineer (C++, Python & Cloud) (m/w/d) VIAVI
Eningen Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Teamleitung (w/m/d) BIM-Management Die Autobahn GmbH des Bundes
CS CLEAN SOLUTIONS GmbH-Firmenlogo
Mitarbeiter für die Steuerungstechnik Software (m/w/d) CS CLEAN SOLUTIONS GmbH
Ismaning bei München Zum Job 

Damit werden Entscheidungen des Menschen entweder vorbereitet, also eine Erstauswahl getroffen, mit der die menschlichen Kollegen dann weiterarbeiten können. Oder aber der Mensch wird gleich ganz aus der Gleichung genommen und greift gar nicht mehr aktiv in den Entscheidungsprozess ein. „Dass dies zwangsläufig zu objektiveren und damit faireren Entscheidungen führt, erweist sich heute leider oft als Trugschluss“, bilanziert ITAS-Wissenschaftler Carsten Orwat. Kritisch würde es vor allem, wenn die Algorithmen bei ihrer Entscheidungsfindung Merkmale nutzen, die eigentlich geschützt seien. Wenn sie also beispielsweise Alter, Geschlecht, ethnische Herkunft, Religion, sexuelle Orientierung oder Behinderungen aufnehmen, obwohl sie diese Informationen bei bestimmten Entscheidungen nicht berücksichtigen dürften. Damit unterscheiden sich die Algorithmen zwar nicht unbedingt vom Mensch, der die Aufgabe erfüllt hätte, aber sie machen eben auch nichts besser.

Diskriminierung bei Entlassungen und Kreditvergabe

Studienautor Orwat zählt in seiner Studie „Diskriminierungsrisiken durch Verwendung von Algorithmen“ verschiedene Sachverhalte auf und nennt Beispiele, in denen einzelne Menschen oder Bevölkerungsgruppen durch Algorithmen lernender Systeme benachteiligt wurden. In den USA unterstützt ein Computersystem etwa bei der Frage nach frühzeitiger Haftentlassung. Die Risikowahrscheinlichkeit von Amerikanern mit afrikanischer Abstammung werde dabei überschätzt und im Gegensatz zu dem der weißen Bevölkerung zu hoch angesetzt, kritisieren Menschenrechtsverbände.

In Finnland nutzte ein Kreditinstitut Algorithmen für den webbasierten Vergabeprozess von Krediten. Doch der Algorithmus fand Männer im Schnitt kreditwürdiger als Frauen und traute auch Finnen eher zu, ihre Kredite zurückzuzahlen als Schweden. Das Institut wurde daraufhin zu Strafzahlungen verurteilt, weil es gegen das finnische Antidiskriminierungsrecht verstoßen habe.

„Werden Daten verarbeitet, die Bewertungen von Menschen über anderer Menschen beinhalten, so können sich Ungleichheiten und Diskriminierungen verbreiten oder verstärken“ resümiert Orwat. Seine Empfehlung: Wer algorithmenbasierte Systeme einsetzt, sollte die programmierenden Fachkräfte sowie die Mitarbeiter, die später mit dem System arbeiten, von Antidiskriminierungsstellen beraten lassen. So könne das Risiko minimiert werden, dass Vorurteile, Stereotype und Fehlinformationen in die Datenbasis des Systems gelangen, um von dort die Entscheidungsfindung zu beeinflussen.

Die vollständige Studie kann auf der Internetseite der Antidiskriminierungsstelle des Bundes heruntergeladen werden.

Lesen Sie auch:

So viel verdienen Experten für künstliche Intelligenz

Ein Beitrag von:

  • Lisa Diez-Holz

    Die Autorin war von 2017 bis Ende 2019 Content Managerin für das TechnikKarriere-News-Portal des VDI Verlags. Zuvor schrieb sie als Redakteurin für die VDI nachrichten.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.