Interview mit KI-Experten 03.06.2020, 11:20 Uhr

Google, Alexa und Co.: Beherrschen wir noch die Maschine – oder hat uns die KI schon im Griff?

„Alexa, kann ich dir wirklich vertrauen?“ KI-Assistenten werden uns darauf wohl keine befriedigende Antwort geben. Bestseller-Autor Thomas Ramge beschäftigt sich schon lange mit Künstlicher Intelligenz. Im Interview erklärt er, warum Roboter-Entscheidungen transparenter werden müssen und warum eine KI allein bei einer Pandemie auch nicht weiterhilft.

Versucht die KI allzu sehr, wie ein Mensch zu sein? Das kann problematisch werden. Foto: panthermedia.net/VitalikRadko

Versucht die KI allzu sehr, wie ein Mensch zu sein? Das kann problematisch werden.

Foto: panthermedia.net/VitalikRadko

Woher wissen Sie, dass Sie jetzt gerade nicht mit einem Roboter, sondern mit einem Menschen telefonieren?

Sie haben einen leichten Dialekt, das wäre ein erster Anhaltspunkt. Aber tatsächlich können manche Systeme die menschliche Stimme schon recht gut imitieren. Woran ich es auf jeden Fall merken würde, dass Sie ein Mensch sind, wäre, wenn es Ihnen gelingt, originelle Fragen zu stellen.

Jetzt setzen Sie mich aber unter Druck.

In der Tat macht KI erhebliche sprachliche Fortschritte, auch was die inhaltliche Kontextualisierung in Gesprächen angeht. Noch kann ich also nicht zu 100 Prozent sicher sein, dass Sie ein Mensch sind. Aber je überraschender Ihre Fragen sind und je besser sie zum Kontext passen, desto unwahrscheinlicher ist es, dass Sie eine Maschine sind.

Google hat 2018 seinen KI-Assistenten Duplex vorgestellt, der während der Pressekonferenz am Telefon einen Tisch reserviert hat. Das hat im Nachgang bei vielen für Bauchschmerzen gesorgt. Was ist da schiefgelaufen?

Zunächst einmal: Die Reservierung hat hervorragend geklappt. Das Unheimliche daran war, dass Duplex ganz gezielt versucht hat, seinem Gesprächspartner am Telefon vorzugaukeln, ein Mensch zu sein. Dazu hat die KI zum Beispiel umgangssprachliche Formulierungen benutzt. Kritiker haben damals gesagt: Das ist das Gegenteil von dem, wie wir mit intelligenten Maschinen umgehen sollten. Denn wenn wir mit Robotern oder Chatbots interagieren, sollten wir immer wissen, dass wir es mit einer Maschine zu tun haben. Sonst besteht die Gefahr, dass die Betreiber der KI-Systeme ihre intelligenten Maschinen nutzen, um andere massenhaft zu manipulieren.

Thomas Ramge ist Sachbuchautor und Journalist sowie Research Fellow am Weizenbaum-Institut für vernetzte Gesellschaft. Foto: Peter van Heese

Thomas Ramge ist Sachbuchautor und Journalist sowie Research Fellow am Weizenbaum-Institut für vernetzte Gesellschaft.

Foto: Peter van Heese

KI-Assistenten wie Alexa oder Smart-Home-Systeme treffen Entscheidungen für uns, die wir schon heute nicht immer nachvollziehen können. Machen uns die Maschinen unmündig?

Das kommt natürlich sehr darauf an, um welche Entscheidungen es sich handelt. Ein intelligenter Thermostat macht uns nicht unmündig, sondern spart Energie. Alexa kann uns schnell zurufen, wie das Wetter wird. Das ist wohl eher harmlos. Aber was geschieht, wenn KI-Systeme plötzlich über die Vergabe von Studienplätzen entscheiden? Bei wichtigen Entscheidungen über uns verlangen wir schon immer Transparenz, völlig unabhängig von KI. Die Begründung von Entscheidungen ist ein Prinzip unseres Rechtsstaats. Bei Maschinen ist das aber gar nicht so einfach, denn die Entscheidungsfindungsmechanismen, mit denen Algorithmen in künstlichen neuronalen Netzen operieren, sind Ergebnisse von unfassbar komplexen mathematischen Berechnungen. Deshalb arbeiten Wissenschaftler und Techniker daran, zunehmend Erklärfunktionen einzubauen. Technisch funktioniert das oft so, dass ein zweites künstliches neuronales Netz die Enscheidungen beobachtet, nachvollzieht und wiedergeben kann.

Hier wird Ihnen ein externer Inhalt von youtube.com angezeigt.

Mit der Nutzung des Inhalts stimmen Sie der Datenschutzerklärung von youtube.com zu.

++ Künstliche Intelligenz erkennt Covid-19 am Uniklinikum Jena ++

Mit der Transparenz ist es jetzt nicht immer weit her. Kaum jemand versteht oder hinterfragt die Algorithmen von Google, Amazon-Empfehlungen oder KI-Assistenten, aber wir nutzen sie trotzdem. Opfern wir die Selbstbestimmung der Bequemlichkeit?

Wir müssen an dieser historischen Schnittstelle lernen, wann wir bewusst selber Entscheidungen treffen, und wann wir weniger wichtige Routineentscheidungen an Maschinen delegieren. Dann kommen wir zu einem wichtigen zweiten Schritt, von dem wir aber noch weit entfernt sind. Idealerweise könnten wir Routineentscheidungen KI-Assistenten überlassen, von denen wir wissen, dass sie unsere Interessen wirklich vertreten. Derzeit sind die meisten Assistenten oder Empfehlungssysteme allerdings Doppelagenten, die uns nicht nur helfen, sondern uns auch etwas verkaufen wollen.

Was müsste sich ändern?

Ich würde mir wünschen, dass unsere wichtigsten Personal-KI-Assistenten nicht von Google, Facebook oder Amazon kommen. In meinem Buch beschreibe ich, dass ich in der Zukunft bereit wäre, Geld für einen KI-Assistenten zu zahlen, der nur auf meiner Seite steht und dem ich meine Daten anvertrauen kann. Diese KI müsste von einem Unternehmen kommen, dessen einziges Geschäftsmodell darin besteht, seine Nutzer bestmöglich zu beraten.

++ Künstliche Intelligenz: Versteckt in zahlreichen Geräten ++ 

In Ihrem Buch schreiben Sie, dass Sie bereit sind, 100 Euro pro Monat für so ein System auszugeben. Wenn KI-Assistenten künftig eine immer wichtigere Rolle für unser Leben spielen, besteht dann nicht die Gefahr einer Klassengesellschaft? Wer es sich leisten kann, wird bestmöglich beraten, und die anderen machen sich abhängig von Google, Amazon und Facebook.

Natürlich ist das schwierig, das ist die aktuelle Situation aber auch. Aber Sie haben schon recht. Man könnte auch über eine öffentlich-rechtliche Konstruktion nachdenken. Da muss man wiederum sicherstellen, dass nicht der Staat Zugriff auf die Daten hat. Denkbar wären KI-Agenten einer unabhängigen Institution, die zum Teil aus Steuern finanziert werden oder so günstig sind, dass sie sich jeder leisten kann.Vermutlich würde so ein Modell weniger kosten, als ein Netflix-Abo.

„Postdigital“, erschienen im Murmann-Verlag, 212 Seiten, Preis: 20 Euro. Foto: Murmann-Verlag

„Postdigital“, erschienen im Murmann-Verlag, 212 Seiten, Preis: 20 Euro.

Foto: Murmann-Verlag

Vor einigen Wochen gab es die Meldung, dass eine KI der Firma BlueDot die Gefahren der Corona-Pandemie schon früher vorausgesagt hat als die WHO. Verlassen wir uns gerade bei wichtigen Entscheidungen zu wenig auf künstliche Intelligenz?

Wir sollten KI zumindest öfter als Entscheidungsassistenz-Systeme nutzen, sofern diese wie bei einigen Krebsdiagnosetools gut erprobt sind und nachweislich die Kompetenz von Menschen heben können. Aber der Fall BlueDot weist eigentlich auf ein anderes Problem hin. Diese KI aus Kanada hat Online-Diskussionen unter chinesischen Ärzten ausgewertet, hat also menschliche Informationen, die es schon gab, im Westen sichtbar gemacht. Die chinesischen Behörden hätten zu diesem Zeitpunkt allerdings schon längst Alarm schlagen können, dazu bedarf es grundsätzlich keiner künstlichen Intelligenz. Dieses Beispiel zeigt sehr deutlich, dass eine KI als solche nicht intelligent ist. Es braucht intelligenter Menschen, die eine datenreiche Technologie intelligent und verantwortungsbewusst nutzen.

Mehr zum Thema KI:

Stellenangebote im Bereich Softwareentwicklung

Modis GmbH-Firmenlogo
Modis GmbH IT Consultant (m/w/d) Software Lifecycle Management München
PohlCon Vertriebs GmbH-Firmenlogo
PohlCon Vertriebs GmbH BIM Ingenieur (m/w/d) Berlin
Schaeffler Technologies AG & Co. KG-Firmenlogo
Schaeffler Technologies AG & Co. KG Softwarearchitekt für Lenkungssysteme (m/w/d) Herzogenaurach
Schaeffler Technologies AG & Co. KG-Firmenlogo
Schaeffler Technologies AG & Co. KG Leiter Softwarearchitektur Fahrwerksysteme (m/w/d) Herzogenaurach
Schaeffler Technologies AG & Co. KG-Firmenlogo
Schaeffler Technologies AG & Co. KG Ingenieur Software-Build-Engineering Steer-by-Wire (m/w/d) Herzogenaurach
Hays Professional Solutions GmbH-Firmenlogo
Hays Professional Solutions GmbH Softwareentwickler (m/w/d) Niedersachsen
W. Gessmann GmbH-Firmenlogo
W. Gessmann GmbH Softwareentwickler (m/w/d) Linux / C / C++ Leingarten bei Heilbronn
wenglor MEL GmbH-Firmenlogo
wenglor MEL GmbH Testingenieur (m/w/d) Firmware und Hardware 2D- / 3D-Sensoren Eching
PILHATSCH INGENIEURE-Firmenlogo
PILHATSCH INGENIEURE Vermessungsingenieur (w/m/d) als Leiter*in für BIM-Projekte Bonn
Jungheinrich Aktiengesellschaft-Firmenlogo
Jungheinrich Aktiengesellschaft Softwareentwickler (m/w/d) Embedded Systems für Lithium-Ionen-Batteriesysteme Norderstedt

Alle Softwareentwicklung Jobs

Top 5 IT & T…

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.