Arabische KI wirft ethische Diskussion auf
Der saudische Chatbot „Humain“ zeigt, wie KI kulturell und religiös angepasst werden kann. Er wirft Fragen zu Werten, Kontrolle und Verantwortung auf, spiegelt ethische Grenzen wider und regt zu einer ethischen Diskussion im digitalen Zeitalter an.
Entwickler als Erzieher: Wie KI auf Werte getrimmt wird.
Foto: PantherMedia / yokhanomwan@gmail.com
Die Einführung von KI, die nicht nur reagiert, sondern aktiv mitdenkt und mit Menschen kommuniziert, eröffnet eine völlig neue Dimension. Technik selbst ist neutral – zumindest theoretisch – doch sobald sie interaktiv wird, beginnt sie, unsere Werte, Normen und ethischen Vorstellungen widerzuspiegeln. Deshalb gibt es klare Regeln und Zensurmechanismen: KI darf keine Anleitungen zum Bau von Waffen oder ähnliches verbreiten. Dennoch zeigen Vorfälle immer wieder, dass die Technik nicht perfekt ist, und ab und zu „schlüpfen“ problematische Inhalte durch.
Der neue Chatbot „Humain Chat“ aus Saudi-Arabien richtet sich gezielt an muslimische Nutzer und soll ein sittengerechtes Online-Erlebnis bieten. Entwickelt wurde er vom KI-Unternehmen Humain auf Basis des Sprachmodells Allam, unterstützt Englisch und Arabisch sowie regionale Dialekte wie Ägyptisch und Libanesisch. Die App ist zunächst ausschließlich in Saudi-Arabien verfügbar und wurde unter Berücksichtigung islamischer Regeln und kultureller Werte gestaltet.
Das KI-Unternehmen Humain wurde im Mai 2025 von Kronprinz und Premierminister Mohammed bin Salman gegründet. Er ist zugleich Kronprinz und Premierminister des arabischen Staates, der seinen Bürgern strenge Sitten- und Verhaltensregeln im Einklang mit den Gesetzen der islamischen Scharia auferlegt.
Kann KI halal sein?
Nun kommt beim arabischen Chatbot noch eine kulturelle und religiöse Ebene hinzu. Einige Medien bezeichnen ihn sogar als „halal Chatbot“, weil er offenbar so trainiert und reguliert wurde, dass seine Antworten den islamischen Normen entsprechen. Das ist ein bemerkenswerter Schritt, denn es bedeutet, dass KI nicht nur sprachlich, sondern auch kulturell und religiös angepasst wird. Gleichzeitig wirft dies Fragen auf: Kann eine Maschine wirklich „halal“ sein, oder spiegelt sie nur die Regeln und Wertvorstellungen ihrer Entwickler*innen wider? Ist das ein Vorbild für die Zukunft, in der KI zunehmend kulturell sensible Rollen übernimmt, oder birgt es das Risiko, dass Technik instrumentalisiert wird, um bestimmte moralische oder religiöse Standards durchzusetzen?
Kann KI überhaupt einen Glauben haben oder religiöse Überzeugungen verstehen? Kann sie bestimmte Werte vertreten, oder spiegelt sie immer nur die Werte ihrer Entwicklerinnen und Entwickler wider? Wie authentisch kann eine Maschine kulturelle und historische Kontexte abbilden, ohne selbst ein Bewusstsein oder eine Identität zu besitzen?
CEO Tareq Amin bezeichnete den Launch als „historischen Meilenstein“ für die Entwicklung einer technisch fortschrittlichen und kulturell authentischen KI. Für die Entwicklung setzte das Unternehmen auf saudische Experten. So sagt Tareq Amin, CEO von HUMAIN: „Der Start von HUMAIN Chat ist ein Moment des Stolzes für Saudi-Arabien und markiert einen historischen Meilenstein in unserer Mission, souveräne KI zu entwickeln, die sowohl technologisch fortschrittlich als auch kulturell authentisch ist. Wir beweisen, dass global wettbewerbsfähige Technologien in unserer eigenen Sprache, Infrastruktur und unseren Werten verwurzelt sein können – entwickelt in Saudi-Arabien von saudischem Talent“.
Kontrolle und Zensur: Wer erzieht die KI?
Zusätzlich haben die Betreiber „Sicherheitsschranken“ eingebaut, die dem saudischen Regime erlauben, die Informationskontrolle zu behalten und zu steuern, welche Antworten der Chatbot geben darf und welche nicht. Solche Mechanismen sind zwar zunächst ungewohnt, doch sie sind auch bei anderen Chatbots weltweit üblich: So basiert etwa das chinesische DeepSeek auf chinesischen Wertvorstellungen und unterliegt ebenfalls staatlicher Zensur, die etwa beim Thema Tiananmen-Platz greift. Auch westliche KI-Systeme wie ChatGPT oder Google Gemini verfügen über Sicherheitsmechanismen: Wer nach Anleitungen zum Bau von Waffen fragt, erhält keine konkrete Antwort, während die Trainingsdaten der dahinterstehenden LLMs westliche Werte widerspiegeln. Damit stellt sich die Frage: Sind Entwickler gleichzeitig „Erzieher“ der KI, und inwieweit prägen ihre kulturellen und ethischen Vorstellungen die Antworten der Maschine?
Damit eröffnet sich hier eine wichtige Diskussions- und Reflexionsebene: Während die KI selbst als „halal“ für kulturell und religiös konformes Verhalten gilt, erinnert uns die Kontrolle und Zensur zugleich daran, dass bestimmte Inhalte oder Handlungen nach menschlichen Maßstäben haram sind. Die Technologie wird so zu einem Spiegel unserer eigenen ethischen und religiösen Verantwortung: Sie zeigt, welche Grenzen wir setzen, wie wir Werte vermitteln und welche Risiken entstehen, wenn Macht über Information und Normen in die Hände weniger gelegt wird. In dieser Hinsicht dient die KI nicht nur als Werkzeug, sondern auch als Impuls für gesellschaftliche Auseinandersetzung und Risikoabschätzung.
Ein Beitrag von:
