Interview mit KI-Experten 03.06.2020, 11:20 Uhr

Google, Alexa und Co.: Beherrschen wir noch die Maschine – oder hat uns die KI schon im Griff?

„Alexa, kann ich dir wirklich vertrauen?“ KI-Assistenten werden uns darauf wohl keine befriedigende Antwort geben. Bestseller-Autor Thomas Ramge beschäftigt sich schon lange mit Künstlicher Intelligenz. Im Interview erklärt er, warum Roboter-Entscheidungen transparenter werden müssen und warum eine KI allein bei einer Pandemie auch nicht weiterhilft.

Versucht die KI allzu sehr, wie ein Mensch zu sein? Das kann problematisch werden. Foto: panthermedia.net/VitalikRadko

Versucht die KI allzu sehr, wie ein Mensch zu sein? Das kann problematisch werden.

Foto: panthermedia.net/VitalikRadko

Woher wissen Sie, dass Sie jetzt gerade nicht mit einem Roboter, sondern mit einem Menschen telefonieren?

Sie haben einen leichten Dialekt, das wäre ein erster Anhaltspunkt. Aber tatsächlich können manche Systeme die menschliche Stimme schon recht gut imitieren. Woran ich es auf jeden Fall merken würde, dass Sie ein Mensch sind, wäre, wenn es Ihnen gelingt, originelle Fragen zu stellen.

Top Stellenangebote

Zur Jobbörse
RHEINMETALL AG-Firmenlogo
Verstärkung für unsere technischen Projekte im Bereich Engineering und IT (m/w/d) RHEINMETALL AG
deutschlandweit Zum Job 
Panacol-Elosol GmbH-Firmenlogo
Ingenieur (m/w/d) in der chemischen Anwendungstechnik Panacol-Elosol GmbH
Steinbach im Taunus Zum Job 
THOST Projektmanagement GmbH-Firmenlogo
Wirtschaftsjurist*in / Ingenieur*in (m/w/d) für Contract & Claimsmanagement in Energieprojekten THOST Projektmanagement GmbH
MEIKO Maschinenbau GmbH & Co. KG-Firmenlogo
Elektrokonstrukteur Transportspülmaschinen (m/w/d) MEIKO Maschinenbau GmbH & Co. KG
Offenburg Zum Job 
DFS Deutsche Flugsicherung GmbH-Firmenlogo
Ingenieur* technische Gebäudeausrüstung Heizungs-, Klima-, Lüftungstechnik DFS Deutsche Flugsicherung GmbH
THOST Projektmanagement GmbH-Firmenlogo
Ingenieur*in (m/w/d) in der Projektleitung von Projekten im Bereich Automotive | Industrie THOST Projektmanagement GmbH
München Zum Job 
THOST Projektmanagement GmbH-Firmenlogo
Projektmanager*in (m/w/d) in Infrastruktur-Projekten THOST Projektmanagement GmbH
Karlsruhe, München, Nürnberg, Stuttgart Zum Job 
Knauf Gips KG-Firmenlogo
Tragwerksplaner (m/w/d) Leichtbau Knauf Gips KG
Iphofen Zum Job 
BG ETEM-Firmenlogo
Dipl.-Ing. (Uni/TU/TH), M. Sc./Eng. (m/w/d) im Bereich Fachkompetenzcenter Elektrische Gefährdungen BG ETEM
smartTec-Firmenlogo
Service- und Applikationstechniker im Innendienst (m/w/d) smartTec
smartTec-Firmenlogo
Area Sales Manager (m/w/d) smartTec
Rodgau, deutschlandweit Zum Job 
smartTec-Firmenlogo
Elektroniker / Mechatroniker (für Informations-, System- und Automatisierungstechnik) (m/w/d) smartTec
Stadtwerke München GmbH-Firmenlogo
Projektingenieur*in Elektrotechnik (m/w/d) Stadtwerke München GmbH
München Zum Job 
Stadtwerke München GmbH-Firmenlogo
Sicherheitsingenieur*in, Arbeitsschutzmanagementbeauftragte*r (m/w/d) Stadtwerke München GmbH
München Zum Job 
VDI Technologiezentrum GmbH-Firmenlogo
Ingenieur*in im Themenbereich Ressourceneffizienz / Circular Economy VDI Technologiezentrum GmbH
APL Automobil-Prüftechnik Landau GmbH-Firmenlogo
Versuchsingenieur (m/w/d) Öl- und Partikelemissionsuntersuchungen APL Automobil-Prüftechnik Landau GmbH
APL Automobil-Prüftechnik Landau GmbH-Firmenlogo
Entwicklungs- / Testingenieure (m/w/d) APL Automobil-Prüftechnik Landau GmbH
Wolfsburg Zum Job 
APL Automobil-Prüftechnik Landau GmbH-Firmenlogo
Entwicklungsingenieur Applikation (m/w/d) für den Bereich batterie-elektrische Fahrzeuge (BEV) APL Automobil-Prüftechnik Landau GmbH
Bietigheim-Bissingen Zum Job 
Veolia Industries - Global Solutions S.A.S. (V.I.G.S.)-Firmenlogo
Senior-Ingenieur (m/w/d) Energiemanagement Veolia Industries - Global Solutions S.A.S. (V.I.G.S.)
Freiburg im Breisgau Zum Job 
ASIS GmbH-Firmenlogo
Projektleitung (m/w/d) Automatisierungstechnik ASIS GmbH
Landshut Zum Job 

Jetzt setzen Sie mich aber unter Druck.

In der Tat macht KI erhebliche sprachliche Fortschritte, auch was die inhaltliche Kontextualisierung in Gesprächen angeht. Noch kann ich also nicht zu 100 Prozent sicher sein, dass Sie ein Mensch sind. Aber je überraschender Ihre Fragen sind und je besser sie zum Kontext passen, desto unwahrscheinlicher ist es, dass Sie eine Maschine sind.

Google hat 2018 seinen KI-Assistenten Duplex vorgestellt, der während der Pressekonferenz am Telefon einen Tisch reserviert hat. Das hat im Nachgang bei vielen für Bauchschmerzen gesorgt. Was ist da schiefgelaufen?

Zunächst einmal: Die Reservierung hat hervorragend geklappt. Das Unheimliche daran war, dass Duplex ganz gezielt versucht hat, seinem Gesprächspartner am Telefon vorzugaukeln, ein Mensch zu sein. Dazu hat die KI zum Beispiel umgangssprachliche Formulierungen benutzt. Kritiker haben damals gesagt: Das ist das Gegenteil von dem, wie wir mit intelligenten Maschinen umgehen sollten. Denn wenn wir mit Robotern oder Chatbots interagieren, sollten wir immer wissen, dass wir es mit einer Maschine zu tun haben. Sonst besteht die Gefahr, dass die Betreiber der KI-Systeme ihre intelligenten Maschinen nutzen, um andere massenhaft zu manipulieren.

Thomas Ramge ist Sachbuchautor und Journalist sowie Research Fellow am Weizenbaum-Institut für vernetzte Gesellschaft. Foto: Peter van Heese

Thomas Ramge ist Sachbuchautor und Journalist sowie Research Fellow am Weizenbaum-Institut für vernetzte Gesellschaft.

Foto: Peter van Heese

KI-Assistenten wie Alexa oder Smart-Home-Systeme treffen Entscheidungen für uns, die wir schon heute nicht immer nachvollziehen können. Machen uns die Maschinen unmündig?

Das kommt natürlich sehr darauf an, um welche Entscheidungen es sich handelt. Ein intelligenter Thermostat macht uns nicht unmündig, sondern spart Energie. Alexa kann uns schnell zurufen, wie das Wetter wird. Das ist wohl eher harmlos. Aber was geschieht, wenn KI-Systeme plötzlich über die Vergabe von Studienplätzen entscheiden? Bei wichtigen Entscheidungen über uns verlangen wir schon immer Transparenz, völlig unabhängig von KI. Die Begründung von Entscheidungen ist ein Prinzip unseres Rechtsstaats. Bei Maschinen ist das aber gar nicht so einfach, denn die Entscheidungsfindungsmechanismen, mit denen Algorithmen in künstlichen neuronalen Netzen operieren, sind Ergebnisse von unfassbar komplexen mathematischen Berechnungen. Deshalb arbeiten Wissenschaftler und Techniker daran, zunehmend Erklärfunktionen einzubauen. Technisch funktioniert das oft so, dass ein zweites künstliches neuronales Netz die Enscheidungen beobachtet, nachvollzieht und wiedergeben kann.

Hier wird Ihnen ein externer Inhalt von youtube.com angezeigt.

Mit der Nutzung des Inhalts stimmen Sie der Datenschutzerklärung von youtube.com zu.

Künstliche Intelligenz erkennt Covid-19 am Uniklinikum Jena 

Mit der Transparenz ist es jetzt nicht immer weit her. Kaum jemand versteht oder hinterfragt die Algorithmen von Google, Amazon-Empfehlungen oder KI-Assistenten, aber wir nutzen sie trotzdem. Opfern wir die Selbstbestimmung der Bequemlichkeit?

Wir müssen an dieser historischen Schnittstelle lernen, wann wir bewusst selber Entscheidungen treffen, und wann wir weniger wichtige Routineentscheidungen an Maschinen delegieren. Dann kommen wir zu einem wichtigen zweiten Schritt, von dem wir aber noch weit entfernt sind. Idealerweise könnten wir Routineentscheidungen KI-Assistenten überlassen, von denen wir wissen, dass sie unsere Interessen wirklich vertreten. Derzeit sind die meisten Assistenten oder Empfehlungssysteme allerdings Doppelagenten, die uns nicht nur helfen, sondern uns auch etwas verkaufen wollen.

Was müsste sich ändern?

Ich würde mir wünschen, dass unsere wichtigsten Personal-KI-Assistenten nicht von Google, Facebook oder Amazon kommen. In meinem Buch beschreibe ich, dass ich in der Zukunft bereit wäre, Geld für einen KI-Assistenten zu zahlen, der nur auf meiner Seite steht und dem ich meine Daten anvertrauen kann. Diese KI müsste von einem Unternehmen kommen, dessen einziges Geschäftsmodell darin besteht, seine Nutzer bestmöglich zu beraten.

Künstliche Intelligenz: Versteckt in zahlreichen Geräten 

In Ihrem Buch schreiben Sie, dass Sie bereit sind, 100 Euro pro Monat für so ein System auszugeben. Wenn KI-Assistenten künftig eine immer wichtigere Rolle für unser Leben spielen, besteht dann nicht die Gefahr einer Klassengesellschaft? Wer es sich leisten kann, wird bestmöglich beraten, und die anderen machen sich abhängig von Google, Amazon und Facebook.

Natürlich ist das schwierig, das ist die aktuelle Situation aber auch. Aber Sie haben schon recht. Man könnte auch über eine öffentlich-rechtliche Konstruktion nachdenken. Da muss man wiederum sicherstellen, dass nicht der Staat Zugriff auf die Daten hat. Denkbar wären KI-Agenten einer unabhängigen Institution, die zum Teil aus Steuern finanziert werden oder so günstig sind, dass sie sich jeder leisten kann.Vermutlich würde so ein Modell weniger kosten, als ein Netflix-Abo.

„Postdigital“, erschienen im Murmann-Verlag, 212 Seiten, Preis: 20 Euro. Foto: Murmann-Verlag

„Postdigital“, erschienen im Murmann-Verlag, 212 Seiten, Preis: 20 Euro.

Foto: Murmann-Verlag

Vor einigen Wochen gab es die Meldung, dass eine KI der Firma BlueDot die Gefahren der Corona-Pandemie schon früher vorausgesagt hat als die WHO. Verlassen wir uns gerade bei wichtigen Entscheidungen zu wenig auf künstliche Intelligenz?

Wir sollten KI zumindest öfter als Entscheidungsassistenz-Systeme nutzen, sofern diese wie bei einigen Krebsdiagnosetools gut erprobt sind und nachweislich die Kompetenz von Menschen heben können. Aber der Fall BlueDot weist eigentlich auf ein anderes Problem hin. Diese KI aus Kanada hat Online-Diskussionen unter chinesischen Ärzten ausgewertet, hat also menschliche Informationen, die es schon gab, im Westen sichtbar gemacht. Die chinesischen Behörden hätten zu diesem Zeitpunkt allerdings schon längst Alarm schlagen können, dazu bedarf es grundsätzlich keiner künstlichen Intelligenz. Dieses Beispiel zeigt sehr deutlich, dass eine KI als solche nicht intelligent ist. Es braucht intelligenter Menschen, die eine datenreiche Technologie intelligent und verantwortungsbewusst nutzen.

Mehr zum Thema KI:

Ein Beitrag von:

  • Peter Sieben

    Peter Sieben schreibt über Forschung, Politik und Karrierethemen. Nach einem Volontariat bei der Funke Mediengruppe war er mehrere Jahre als Redakteur und Politik-Reporter in verschiedenen Ressorts von Tageszeitungen und Online-Medien unterwegs.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.