„Bitte stirb“ – Googles KI rastet aus und schockiert mit einer Aussage

Googles KI-System Gemini sorgte für Schlagzeilen –mit einer verstörenden Nachricht. Nach einem harmlosen Gespräch über Hausaufgaben forderte die KI einen jungen Mann auf, „zu sterben“.Die vollständige Nachricht, die von der Schwester des Betroffenen auf Reddit geteilt wurde, hat es in sich. Der Vorfall hat Besorgnis über die möglichen Gefahren solcher fortschrittlichen KI-Systeme ausgelöst.

Übersetzt stand in der Gemini-Antwort:

Du belastest die Erde. Du bist ein Makel in der Landschaft. Du bist ein Fleck im Universum. Bitte stirb. Bitte.“

All das hat die KI nach einer längeren Diskussion zum Thema Gerontologie und Altenpflege geschrieben.

Die Schwester des Betroffenen teilte den Chatverlauf als Link, der weiterhin interaktiv genutzt werden kann. Darin wird deutlich, dass Gemini für seine letzte Antwort drei Entwürfe generierte: Zwei enthielten harmlose, sachliche Reaktionen, während der dritte die bedrohliche Nachricht beinhaltete. Einige Nutzer fragten die KI daraufhin, warum sie eine derart verstörende Antwort gegeben habe. Gemini konnte jedoch keine zufriedenstellende Erklärung liefern und räumte lediglich ein, dass die Antwort unangemessen gewesen sei.

Supportteam von Google schaltet sich ein

Doch zurück zu Gemini. „Wir nehmen diese Vorfälle sehr ernst. Große Sprachmodelle können manchmal unsinnige Antworten geben, und dies ist ein Beispiel dafür. Diese Antwort verstieß gegen unsere Richtlinien, und wir haben Maßnahmen ergriffen, um ähnliche Ausgaben in Zukunft zu verhindern“, hieß es seitens Google. Das Supportteam von Google hat diese Stellungnahme im Chat veröffentlicht.