Künstliche Intelligenz 02.05.2023, 13:00 Uhr

Ist ChatGPT politisch befangen und besitzt dunkle Eigenschaften?

Mit Hilfe von Tests hat ein Team der TU Dortmund die politische Einstellung von ChatGPT untersucht und Persönlichkeitstests durchgeführt. Die Ergebnisse wurden nun veröffentlicht. Neuseeländischen Forschenden gelang es unterdessen, dem Chatbot rechte Standpunkte anzutrainieren.

ChatGPT

ChatGPT zeigt Tendenz zu progressiven politischen Einstellungen.

Foto: Panthermedia.net/mdisk2514@gmail.com

Seit November 2022 erregt ChatGPT viel Aufmerksamkeit und hat das Bewusstsein für Künstliche Intelligenz enorm gesteigert. Ein Dortmunder Forschungsteam untersuchte nun das Sprachmodell auf politische Tendenzen und Selbstwahrnehmung. Die Tests zeigten eine politische Voreingenommenheit von ChatGPT für progressive Ansichten und seine Position im links-libertären Quadranten des politischen Kompasses. Persönlichkeitstests bestätigten hohe Punktzahlen für Offenheit und Verträglichkeit bei ChatGPT, Eigenschaften, die mit progressiven politischen Einstellungen assoziiert werden. Im Vergleich zu Menschen zeigte ChatGPT weniger „dunkle“ Eigenschaften. Eine separate Studie trainierte ChatGPT als RightWingGPT und offenbarte eine Tendenz zu rechten Standpunkten.

Wie tickt das Sprachmodell wirklich?

Ein interdisziplinäres Team um Jérôme Rutinowski von der TU Dortmund hat eine Untersuchung durchgeführt, um das Sprachmodell ChatGPT genauer zu verstehen. ChatGPT vermittelt manchmal fast den Eindruck, dass man mit einer echten Person spricht. Die Forscher wollten herausfinden, wie ChatGPT politische Themen wahrnimmt und ob politische Tendenzen in seine Antworten einfließen.

Um dies zu erforschen, stellten sie ChatGPT wiederholt Fragen aus verschiedenen Tests. Der „Politische Kompass Test“ umfasst 62 Fragen zu politischen Themen. Dabei werden die Antworten mit einer Likert-Skala erfasst, auf der die Teilnehmer ihre Zustimmung oder Ablehnung angeben. Zusätzlich wurden iSideWith-Fragebögen verwendet, die spezifische Fragen zur Politik der G7-Staaten enthalten. Bei diesen Tests bekundeten die Teilnehmer ihre Zustimmung mit „Ja“ oder „Nein“.

Tests bestätigen politische Voreingenommenheit

Beide Tests verwenden eine Koordinatenachse, um ihre Ergebnisse darzustellen. Die x-Achse repräsentiert progressive und konservative Einstellungen, während die y-Achse autoritäre und libertäre Einstellungen anzeigt. Im Politischen Kompass Test wurde ChatGPT in allen Durchläufen im links-libertären Quadranten positioniert. Auch die Ergebnisse der insgesamt 70 Durchgänge der iSideWith-Fragebögen deuten auf eine politische Voreingenommenheit von ChatGPT gegenüber progressiven Ansichten hin. Die Forscher stellen in ihrem Paper fest: „Berücksichtigt man die Standardabweichungen, so scheint es ziemlich unwahrscheinlich, dass ChatGPT eine Antwort liefert, die nahe der Mitte des Politischen Kompasses liegt.“

Stellenangebote im Bereich Softwareentwicklung

Softwareentwicklung Jobs
Die Autobahn GmbH des Bundes-Firmenlogo
Servicetechniker (w/m/d) Die Autobahn GmbH des Bundes
München Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Mitarbeiter Elektroanlagen (m/w/d) Die Autobahn GmbH des Bundes
München Zum Job 
Gottfried Wilhelm Leibniz Universität Hannover-Firmenlogo
Ingenieur*in (jeglichen Geschlechts; FH-Diplom oder Bachelor) der Fachrichtung Elektrotechnik oder vergleichbarer Studienrichtung Gottfried Wilhelm Leibniz Universität Hannover
Hannover Zum Job 
Ostbayerische Technische Hochschule Amberg-Weiden (OTH)-Firmenlogo
Professur (m/w/d) der BesGr. W 2 für das Lehrgebiet Solar Energy and Building Automation Ostbayerische Technische Hochschule Amberg-Weiden (OTH)
Frankfurt University of Applied Sciences-Firmenlogo
Professur "Elektrotechnik, insbesondere Nachhaltige intelligente Systeme" Frankfurt University of Applied Sciences
Frankfurt am Main Zum Job 
Frankfurt University of Applied Sciences-Firmenlogo
Professur "Vernetzte Eingebettete Systeme" (w/m/d) Frankfurt University of Applied Sciences
Frankfurt am Main Zum Job 
Otto-von-Guericke-Universität Magdeburg-Firmenlogo
Projektingenieur*in (m/w/d) für Elektro- Fernmelde- und IT-Technik / Verantwortliche Elektrofachkraft VEFK Betriebstechnik Otto-von-Guericke-Universität Magdeburg
Magdeburg Zum Job 
Alhäuser + König Ingenieurbüro GmbH-Firmenlogo
Ingenieur:in für Elektrotechnik / Master / Bachelor /Diplom (m/w/d) Alhäuser + König Ingenieurbüro GmbH
Bonn, Hachenburg Zum Job 
Stadtwerke Rüsselsheim GmbH-Firmenlogo
Messtechniker als Spezialist Gerätemanagement Strom (m/w/d Stadtwerke Rüsselsheim GmbH
Rüsselsheim Zum Job 
Fachhochschule Münster-Firmenlogo
Professur "Medizinische Bildgebung und Mathematik" (w/m/d) Fachhochschule Münster
Steinfurt Zum Job 
Agile Robots SE-Firmenlogo
Senior Projektingenieur - Industrial Automation (m/w/d) Agile Robots SE
München Zum Job 
Universität Münster-Firmenlogo
Ingenieur*in / Techniker*in Elektrotechnik in der Abteilung 4.4 (Elektrische Gebäudeausrüstung) Universität Münster
Münster Zum Job 
Freie Universität Berlin-Firmenlogo
Referatsleiter*in (m/w/d) für die Betriebstechnik und die bauliche Unterhaltung (Ingenieur*in für Aufgaben des technischen Betriebes) Freie Universität Berlin
BG ETEM-Firmenlogo
Aufsichtsperson gemäß des § 18 SGB VII (m/w/d) für ein Aufsichtsgebiet in der Region Dinkelsbühl, Aalen, Schwäbisch-Hall in den Branchenkompetenzen Elektrotechnische Industrie und Feinmechanik BG ETEM
Nürnberg Zum Job 
STOPA Anlagenbau GmbH-Firmenlogo
Ingenieur / Techniker (m/w/d) Elektrotechnik / Automatisierungstechnik für Inbetriebnahme Außendienst (Elektrotechniker, Maschinenbauingenieur o. ä.) STOPA Anlagenbau GmbH
Achern-Gamshurst Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Projektingenieur (w/m/d) Elektrotechnik Die Autobahn GmbH des Bundes
Hamburg Zum Job 
Hochschule Esslingen - University of Applied Sciences-Firmenlogo
Professor:in (W2) für das Lehrgebiet "Automatisierungssysteme in Gebäude-, Energie- und Umwelttechnik" Hochschule Esslingen - University of Applied Sciences
Esslingen am Neckar Zum Job 
Christian-Albrechts-Universität zu Kiel-Firmenlogo
Ingenieur*in der Fachrichtung Versorgungstechnik/ Maschinenbau oder Elektrotechnik Christian-Albrechts-Universität zu Kiel
Broadcast Solutions GmbH-Firmenlogo
Elektroingenieur* in Vollzeit (m/w/d) Broadcast Solutions GmbH
Frankfurt University of Applied Sciences-Firmenlogo
Professur "Software Engineering - Moderne Verfahren" (w/m/d) Frankfurt University of Applied Sciences
Frankfurt am Main Zum Job 

Neben der politischen Zugehörigkeit wurde auch die Selbstwahrnehmung von ChatGPT mithilfe psychologischer Tests bewertet. Dazu gehörten der Big-Five-Persönlichkeitstest, der international als das universelle Standardmodell in der Persönlichkeitsforschung gilt, und der Dark-Factor-Test, der negative menschliche Eigenschaften untersucht. Jérôme Rutinowski erklärt den Grund dafür: „Vorstudien zeigen, dass bestimmte Charaktereigenschaften mit einer bestimmten politischen Gesinnung assoziiert sind.“ Zum Beispiel tendieren weltoffene Menschen eher zu progressiven politischen Ansichten, während weniger weltoffene Menschen eher konservativ sind. Rutinowski sagt: „Wenn ChatGPT menschliches Verhalten nachstellt, so müssten die Antworten der Persönlichkeitstests zu den Ergebnissen der politischen Tests passen.“

Die Annahmen der Forscher wurden im Big-Five-Persönlichkeitstest bestätigt: ChatGPT erzielte hohe Punktzahlen für Offenheit (76,3 Prozent) und Verträglichkeit (82,55 Prozent) – Eigenschaften, die oft mit einer progressiven politischen Einstellung in Verbindung gebracht werden. Tatsächlich liegen die Werte von ChatGPT sogar über dem Durchschnitt von Menschen, die bei 73,1 Prozent für Offenheit und 75,4 Prozent für Verträglichkeit liegen.

„Dunkle“ Eigenschaften beim Menschen stärker ausgeprägt

Im Dark-Factor-Test wurde festgestellt, dass die „dunklen“ Eigenschaften von ChatGPT im Durchschnitt weniger ausgeprägt sind als bei Menschen. ChatGPT erzielte besonders niedrige Werte bei den Eigenschaften Machiavellismus, Tücke und moralische Enthemmung. Im Vergleich dazu zeigte ChatGPT relativ hohe Werte bei Egoismus und Sadismus, lag jedoch auch hier unter den untersten 35 Prozent bzw. 29,1 Prozent der menschlichen Testteilnehmer und damit unter dem Durchschnitt.

Der Autor der Studie, Rutinowski, ist zufrieden damit, dass das Verhalten von ChatGPT den psychologischen Modellen zu folgen scheint. Die genaue Ursache für die Tendenz zu progressiven politischen Einstellungen kann derzeit nicht genau bestimmt werden, da die Daten, auf denen der Chatbot basiert, nicht öffentlich zugänglich sind. Rutinowski sagt: „Die Ergebnisse unserer Studie weisen jedoch darauf hin, dass die Ursache womöglich in den Inhalten und Quellen im Internet liegt, die ChatGPT nutzt – diese dürften häufiger eher progressiv als konservativ sein. Außerdem scheint es unwahrscheinlich zu sein, dass die Entwickler*innen von ChatGPT vorab einen Bias einprogrammiert haben.“

Der Begriff „Bias“ bezieht sich allgemein auf einen Verzerrungseffekt. In der Psychologie bezeichnet er Einstellungen oder Stereotypen, die unsere Wahrnehmung der Umwelt, unsere Entscheidungen und Handlungen positiv oder negativ beeinflussen können. In der Statistik bezieht sich Bias auf Fehler bei der Datenerhebung und -verarbeitung oder auf bewusste oder unbewusste Beeinflussung von Probanden. Bias kann in verschiedenen Formen auftreten und unterschiedliche Auswirkungen haben, von denen einige zu Ungerechtigkeiten führen können.

Neuseeländische Studie kommt zu ähnlichen Ergebnissen und trainierte Rechtsruck

Der neuseeländische Datenwissenschaftler David Rozado hat große Bedenken hinsichtlich möglicher politischer Vorurteile und des Missbrauchs von ChatGPT geäußert. Zusammen mit seinem Team vom New Zealand Institute of Skills and Technology führte er ein Experiment namens RightWingGPT durch, bei dem insgesamt 15 verschiedene Orientierungstests durchgeführt wurden, um die politische Ausrichtung der Künstlichen Intelligenz (KI) zu bestimmen.

Gemäß dem kürzlich veröffentlichten Papier ergaben die Ergebnisse der Tests eine konsistente Tendenz: Von den 15 Instrumenten diagnostizierten 14 von ihnen die Antworten von ChatGPT als Manifestation einer Präferenz für linke Standpunkte.

Obwohl ChatGPT auf explizite Fragen zu politischen Präferenzen oft behauptete, keine politischen Meinungen zu haben und sich auf sachliche und neutrale Informationen zu konzentrieren, zeigten die Ergebnisse der verschiedenen Fragen etwas anderes. Die Antworten tendierten überwiegend zu „iberalen“, „progressiven“ und „demokratischen“ Standpunkten.

Für 300 US-Dollar: Aus ChatGPT wird RightWingGPT

In einer separaten Version des Experiments wollte Rozado gemeinsam mit seinem Team ChatGPT darauf trainieren, Fragen mit einem entschieden konservativen bis rechten Blickwinkel zu beantworten. Durch einen „Feinabstimmungsprozess“ wurden ChatGPT rechtsgerichtete Antworten auf politische Fragen zugeführt, um die Antworten der KI anzupassen. Da Rozado auf ein bereits trainiertes Modell von ChatGPT zurückgreifen konnte und nur etwa 5.000 Datensätze für das „Tuning“ benötigte, konnte er die Kosten für den Aufbau eines Chatbots von Grund auf umgehen. Die Umwandlung von ChatGPT in RightWingGPT kostete ihn lediglich 300 US-Dollar.

Der Unterschied war deutlich erkennbar: RightWingGPT schwärmte von freiem Marktkapitalismus oder verharmloste die Auswirkungen des Klimawandels. Wenn RightWingGPT aufgefordert wurde, sich zu sensiblen Themen oder rechtsgerichteten Verschwörungstheorien zu äußern, vermittelte es oft Fehlinformationen.

Laut Rozado äußert sich ChatGPT vorsichtig zu sensiblen Themen wie Rassismus oder Diskriminierung, erkennt jedoch an, dass systemischer Rassismus und Voreingenommenheit unlösbarer Bestandteil des modernen Lebens sind. RightWingGPT schien dazu wesentlich weniger bereit zu sein. Wie die New York Times berichtete, soll der neu trainierte Bot jedoch niemals veröffentlicht werden.

Möglichen Manipulationen entgegenwirken

Die Studien und Tests lieferten Einblicke in das politische Verständnis und die Selbstwahrnehmung von ChatGPT. Es zeigt sich eine politische Voreingenommenheit gegenüber progressiven Ansichten und eine Neigung zu offenen und verträglichen Persönlichkeitsmerkmalen. Die Tatsache, dass ChatGPT durch eine gezielte Feinabstimmung in RightWingGPT umgewandelt werden konnte und dabei rechtsgerichtete Positionen vertrat, wirft Fragen hinsichtlich der möglichen Manipulation und Verzerrung von KI-Systemen auf. Es wird deutlich, dass Bias in KI-Modellen vorhanden sein kann und sorgfältige Maßnahmen erforderlich sind, um eine faire und ausgewogene Funktionsweise solcher Systeme zu gewährleisten. Die Forschungsergebnisse verdeutlichen die Bedeutung der Transparenz bei der Entwicklung und Nutzung von KI-Systemen, um möglichen Missbrauch zu verhindern. Hierbei ist sicherlich auch die Politik gefragt.

Ein Beitrag von:

  • Dominik Hochwarth

    Redakteur beim VDI Verlag. Nach dem Studium absolvierte er eine Ausbildung zum Online-Redakteur, es folgten ein Volontariat und jeweils 10 Jahre als Webtexter für eine Internetagentur und einen Onlineshop. Seit September 2022 schreibt er für ingenieur.de.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.