Interview mit KI-Experten 03.06.2020, 11:20 Uhr

Google, Alexa und Co.: Beherrschen wir noch die Maschine – oder hat uns die KI schon im Griff?

„Alexa, kann ich dir wirklich vertrauen?“ KI-Assistenten werden uns darauf wohl keine befriedigende Antwort geben. Bestseller-Autor Thomas Ramge beschäftigt sich schon lange mit Künstlicher Intelligenz. Im Interview erklärt er, warum Roboter-Entscheidungen transparenter werden müssen und warum eine KI allein bei einer Pandemie auch nicht weiterhilft.

Versucht die KI allzu sehr, wie ein Mensch zu sein? Das kann problematisch werden. Foto: panthermedia.net/VitalikRadko

Versucht die KI allzu sehr, wie ein Mensch zu sein? Das kann problematisch werden.

Foto: panthermedia.net/VitalikRadko

Woher wissen Sie, dass Sie jetzt gerade nicht mit einem Roboter, sondern mit einem Menschen telefonieren?

Sie haben einen leichten Dialekt, das wäre ein erster Anhaltspunkt. Aber tatsächlich können manche Systeme die menschliche Stimme schon recht gut imitieren. Woran ich es auf jeden Fall merken würde, dass Sie ein Mensch sind, wäre, wenn es Ihnen gelingt, originelle Fragen zu stellen.

Top Stellenangebote

Zur Jobbörse
Stadtbetrieb Wetter (Ruhr)-Firmenlogo
Bauingenieur/in (m/w/d) Fachrichtung Tiefbau / Straßenbau Stadtbetrieb Wetter (Ruhr)
Wetter (Ruhr) Zum Job 
Stadtwerke München GmbH-Firmenlogo
Brandschutzbeauftragte*r mit Zusatzfunktionen Tram (m/w/d) Stadtwerke München GmbH
München Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Planungsingenieur (w/m/d) Streckenplanung Die Autobahn GmbH des Bundes
Uwe Wenzel WW-Personalkonzepte e.K.-Firmenlogo
Entwicklungsingenieur (m/w/d) Wärmepumpensysteme und Regelungen Uwe Wenzel WW-Personalkonzepte e.K.
Großraum Hamburg Zum Job 
Landeshauptstadt München-Firmenlogo
Verkehrsingenieur*innen für die Verkehrswende (w/m/d) Landeshauptstadt München
München Zum Job 
Framatome-Firmenlogo
Ingenieur (m/w/d) für nukleare Entsorgung Framatome
Karlstein am Main, Erlangen Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Bauingenieur als Bauwerksprüfer (w/m/d) Die Autobahn GmbH des Bundes
Berliner Stadtreinigungsbetriebe (BSR)-Firmenlogo
Projektingenieurin / Projektingenieur (w/m/d) Verfahrenstechnik Berliner Stadtreinigungsbetriebe (BSR)
Technische Universität Graz-Firmenlogo
Universitätsprofessur für Nachhaltige Antriebssysteme und angewandte Thermodynamik (m/w/d) Technische Universität Graz
Graz (Österreich) Zum Job 
Berliner Stadtreinigungsbetriebe (BSR)-Firmenlogo
Projektingenieurin / Projektingenieur (w/m/d) Elektrotechnik Berliner Stadtreinigungsbetriebe (BSR)
Lübeck Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
(Umwelt-)Ingenieur (w/m/d) für Boden, Abfall, Altlasten und Georisiken Die Autobahn GmbH des Bundes
Nürnberg Zum Job 
Fuest Familienstiftung-Firmenlogo
Bauzeichner, Bautechniker oder Innenarchitekt (m/w/d) Fuest Familienstiftung
Timm Technology GmbH-Firmenlogo
Sales Manager / Vertriebsingenieur (m/w/d) Timm Technology GmbH
Reinbek Zum Job 
Caljan GmbH-Firmenlogo
Maschinenbauingenieur / Konstrukteur Sondermaschinenbau (m/w/d) Caljan GmbH
Halle (Westfalen) Zum Job 
Stadtwerke München GmbH-Firmenlogo
(Senior) Projektmanager*in Niederspannung (m/w/d) Stadtwerke München GmbH
München Zum Job 
DFS Deutsche Flugsicherung GmbH-Firmenlogo
Ingenieur* Produktmanagement für Navigationsdienste DFS Deutsche Flugsicherung GmbH
Langen (Hessen) Zum Job 
VAHLE-Firmenlogo
Ingenieur Automatisierungs- und Steuerungstechnik (m/w/d) VAHLE
Kamen, Großraum Dortmund Zum Job 
Grünecker Patent- und Rechtsanwälte PartG mbB-Firmenlogo
Patentingenieur (m/w/d) der Fachrichtung Physik und/oder Elektrotechnik mit der Möglichkeit zur Ausbildung zum "European Patent Attorney (m/w/d/)" Grünecker Patent- und Rechtsanwälte PartG mbB
München Zum Job 
DFS Deutsche Flugsicherung GmbH-Firmenlogo
Flugsicherungsingenieur (w/m/d) DFS Deutsche Flugsicherung GmbH
Grünecker Patent- und Rechtsanwälte PartG mbB-Firmenlogo
Europäischer Patentanwalt (m/w/d) der Fachrichtung Physik, Informatik, Elektrotechnik oder Nachrichtentechnik Grünecker Patent- und Rechtsanwälte PartG mbB
München Zum Job 

Jetzt setzen Sie mich aber unter Druck.

In der Tat macht KI erhebliche sprachliche Fortschritte, auch was die inhaltliche Kontextualisierung in Gesprächen angeht. Noch kann ich also nicht zu 100 Prozent sicher sein, dass Sie ein Mensch sind. Aber je überraschender Ihre Fragen sind und je besser sie zum Kontext passen, desto unwahrscheinlicher ist es, dass Sie eine Maschine sind.

Google hat 2018 seinen KI-Assistenten Duplex vorgestellt, der während der Pressekonferenz am Telefon einen Tisch reserviert hat. Das hat im Nachgang bei vielen für Bauchschmerzen gesorgt. Was ist da schiefgelaufen?

Zunächst einmal: Die Reservierung hat hervorragend geklappt. Das Unheimliche daran war, dass Duplex ganz gezielt versucht hat, seinem Gesprächspartner am Telefon vorzugaukeln, ein Mensch zu sein. Dazu hat die KI zum Beispiel umgangssprachliche Formulierungen benutzt. Kritiker haben damals gesagt: Das ist das Gegenteil von dem, wie wir mit intelligenten Maschinen umgehen sollten. Denn wenn wir mit Robotern oder Chatbots interagieren, sollten wir immer wissen, dass wir es mit einer Maschine zu tun haben. Sonst besteht die Gefahr, dass die Betreiber der KI-Systeme ihre intelligenten Maschinen nutzen, um andere massenhaft zu manipulieren.

Thomas Ramge ist Sachbuchautor und Journalist sowie Research Fellow am Weizenbaum-Institut für vernetzte Gesellschaft. Foto: Peter van Heese

Thomas Ramge ist Sachbuchautor und Journalist sowie Research Fellow am Weizenbaum-Institut für vernetzte Gesellschaft.

Foto: Peter van Heese

KI-Assistenten wie Alexa oder Smart-Home-Systeme treffen Entscheidungen für uns, die wir schon heute nicht immer nachvollziehen können. Machen uns die Maschinen unmündig?

Das kommt natürlich sehr darauf an, um welche Entscheidungen es sich handelt. Ein intelligenter Thermostat macht uns nicht unmündig, sondern spart Energie. Alexa kann uns schnell zurufen, wie das Wetter wird. Das ist wohl eher harmlos. Aber was geschieht, wenn KI-Systeme plötzlich über die Vergabe von Studienplätzen entscheiden? Bei wichtigen Entscheidungen über uns verlangen wir schon immer Transparenz, völlig unabhängig von KI. Die Begründung von Entscheidungen ist ein Prinzip unseres Rechtsstaats. Bei Maschinen ist das aber gar nicht so einfach, denn die Entscheidungsfindungsmechanismen, mit denen Algorithmen in künstlichen neuronalen Netzen operieren, sind Ergebnisse von unfassbar komplexen mathematischen Berechnungen. Deshalb arbeiten Wissenschaftler und Techniker daran, zunehmend Erklärfunktionen einzubauen. Technisch funktioniert das oft so, dass ein zweites künstliches neuronales Netz die Enscheidungen beobachtet, nachvollzieht und wiedergeben kann.

Hier wird Ihnen ein externer Inhalt von youtube.com angezeigt.

Mit der Nutzung des Inhalts stimmen Sie der Datenschutzerklärung von youtube.com zu.

Künstliche Intelligenz erkennt Covid-19 am Uniklinikum Jena 

Mit der Transparenz ist es jetzt nicht immer weit her. Kaum jemand versteht oder hinterfragt die Algorithmen von Google, Amazon-Empfehlungen oder KI-Assistenten, aber wir nutzen sie trotzdem. Opfern wir die Selbstbestimmung der Bequemlichkeit?

Wir müssen an dieser historischen Schnittstelle lernen, wann wir bewusst selber Entscheidungen treffen, und wann wir weniger wichtige Routineentscheidungen an Maschinen delegieren. Dann kommen wir zu einem wichtigen zweiten Schritt, von dem wir aber noch weit entfernt sind. Idealerweise könnten wir Routineentscheidungen KI-Assistenten überlassen, von denen wir wissen, dass sie unsere Interessen wirklich vertreten. Derzeit sind die meisten Assistenten oder Empfehlungssysteme allerdings Doppelagenten, die uns nicht nur helfen, sondern uns auch etwas verkaufen wollen.

Was müsste sich ändern?

Ich würde mir wünschen, dass unsere wichtigsten Personal-KI-Assistenten nicht von Google, Facebook oder Amazon kommen. In meinem Buch beschreibe ich, dass ich in der Zukunft bereit wäre, Geld für einen KI-Assistenten zu zahlen, der nur auf meiner Seite steht und dem ich meine Daten anvertrauen kann. Diese KI müsste von einem Unternehmen kommen, dessen einziges Geschäftsmodell darin besteht, seine Nutzer bestmöglich zu beraten.

Künstliche Intelligenz: Versteckt in zahlreichen Geräten 

In Ihrem Buch schreiben Sie, dass Sie bereit sind, 100 Euro pro Monat für so ein System auszugeben. Wenn KI-Assistenten künftig eine immer wichtigere Rolle für unser Leben spielen, besteht dann nicht die Gefahr einer Klassengesellschaft? Wer es sich leisten kann, wird bestmöglich beraten, und die anderen machen sich abhängig von Google, Amazon und Facebook.

Natürlich ist das schwierig, das ist die aktuelle Situation aber auch. Aber Sie haben schon recht. Man könnte auch über eine öffentlich-rechtliche Konstruktion nachdenken. Da muss man wiederum sicherstellen, dass nicht der Staat Zugriff auf die Daten hat. Denkbar wären KI-Agenten einer unabhängigen Institution, die zum Teil aus Steuern finanziert werden oder so günstig sind, dass sie sich jeder leisten kann.Vermutlich würde so ein Modell weniger kosten, als ein Netflix-Abo.

„Postdigital“, erschienen im Murmann-Verlag, 212 Seiten, Preis: 20 Euro. Foto: Murmann-Verlag

„Postdigital“, erschienen im Murmann-Verlag, 212 Seiten, Preis: 20 Euro.

Foto: Murmann-Verlag

Vor einigen Wochen gab es die Meldung, dass eine KI der Firma BlueDot die Gefahren der Corona-Pandemie schon früher vorausgesagt hat als die WHO. Verlassen wir uns gerade bei wichtigen Entscheidungen zu wenig auf künstliche Intelligenz?

Wir sollten KI zumindest öfter als Entscheidungsassistenz-Systeme nutzen, sofern diese wie bei einigen Krebsdiagnosetools gut erprobt sind und nachweislich die Kompetenz von Menschen heben können. Aber der Fall BlueDot weist eigentlich auf ein anderes Problem hin. Diese KI aus Kanada hat Online-Diskussionen unter chinesischen Ärzten ausgewertet, hat also menschliche Informationen, die es schon gab, im Westen sichtbar gemacht. Die chinesischen Behörden hätten zu diesem Zeitpunkt allerdings schon längst Alarm schlagen können, dazu bedarf es grundsätzlich keiner künstlichen Intelligenz. Dieses Beispiel zeigt sehr deutlich, dass eine KI als solche nicht intelligent ist. Es braucht intelligenter Menschen, die eine datenreiche Technologie intelligent und verantwortungsbewusst nutzen.

Mehr zum Thema KI:

Ein Beitrag von:

  • Peter Sieben

    Peter Sieben schreibt über Forschung, Politik und Karrierethemen. Nach einem Volontariat bei der Funke Mediengruppe war er mehrere Jahre als Redakteur und Politik-Reporter in verschiedenen Ressorts von Tageszeitungen und Online-Medien unterwegs.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.