EXIST-Wettewerb 29.07.2021, 07:00 Uhr

Schluss mit Seximus! Die Künstliche Intelligenz liest mit!

In den sozialen Medien sind Diskriminierungen, rassistische Äußerungen und Sexismus leider an der Tagesordnung. Ein Team aus Studierenden und erfahrenen Wissenschaftlerinnen und Wissenschaftlern hat jetzt eine praktische Methode entwickelt, um Postings und Kommentare besser kontrollieren zu können.

Symbolbild Sexismus

Im Internet gehört Seximus zum Alltag. Eine künstliche Intelligenz kann beleidigende Äußerungen aufspüren.

Foto: panthermedia.net / keport

Beleidigungen sind leider an der Tagesordnung, wenn Menschen aufeinandertreffen, die nicht derselben Meinung sind. Das Internet hat dieses Problem allerdings exponentiell anwachsen lassen. Selbst unter harmlosen Artikeln oder höflichen Fragen in Foren sammeln sich Kommentare, die andere Nutzer herabsetzen. Noch kritischer wird es bei kontroversen Themen. Die bloße Masse an Statements erschwert es den Moderatoren der entsprechenden Internetseiten erheblich, rassistische oder sexistische Äußerungen sowie andere Formen der Beleidigungen herauszufiltern. In den sozialen Medien, wo Chat-Verläufe nicht individuell moderiert werden, gelingt es noch weniger, für einen respektvollen Umgangston zu sorgen. Auch wenn die dortigen Moderatoren extreme Kommentare löschen und die User sie auch melden können. Schon die Anonymität des Internets führt dazu, dass verbale Übergriffe sich häufen.

Rufmord im Internet: Mit diesen 7 Tipps schützen Sie sich

Ein Team der Fachhochschule St. Pölten und des AIT Austrian Institute of Technology möchte das ändern. Für einen internationalen Wettbewerb haben die Forschenden eine Methode entwickelt, die sexistische Äußerungen durch eine künstliche Intelligenz (KI) automatisch erkennt. Das Prinzip ließe sich auf weitere Inhalte übertragen.

Künstliche Intelligenz muss die feinen Unterschiede erkennen

Algorithmen, die Sprache nach bestimmten semantischen Zusammenhängen durchforsten, sind nicht neu. Was ist also das Besondere an der neuen künstlichen Intelligenz? Vermutlich ist es ihr Feingefühl. Denn es gibt viele Formen von sexistischen Äußerungen. Die Forschenden haben daher zunächst verschiedene Kategorien festgelegt: Ideologie und Ungleichheit, Stereotype und Herrschaft, Objektifizierung, sexuelle Gewalt, Frauenfeindlichkeit (Misogynie) und nicht-sexuelle Gewalt.

Das klingt machbar. Richtig gefordert haben sie ihre künstliche Intelligenz durch eine weitere Unterscheidung: Bei welchen Kommentaren handelt es sich tatsächlich um sexistische Aussagen und welche Statements sind ironisch oder sarkastisch gemeint? Diese Einteilung gelingt selbst vielen Menschen nicht. „Wichtig bei der Erkennung sexistischer Inhalte ist, dass wir nicht nur offensichtliche Formen von Sexismus automatisch identifizieren können, sondern auch subtile Formen und Anspielungen, die auf den ersten Blick übersehen werden könnten“, sagt Alexander Schindler, Teamleiter auf Seite des AIT.

Postings von Twitter und Gab fütterten die künstlichen Intelligenz

Die Wissenschaftlerinnen und Wissenschaftler brauchten also eine umfangreiche Datenbasis. Die erhielt sie über den EXIST-Wettbewerb des Bundeswirtschaftsministeriums, der Teilnehmenden Postings der Kurznachrichtendienste Twitter und Gab zur Verfügung stellte. Die Texte lagen in Englisch und in Spanisch vor. Die Forschenden fütterten die künstliche Intelligenz und programmierten Algorithmen, die schließlich das gewünschte Ergebnis brachten: Sexismus kann sich im Netz nicht mehr verstecken.

Mit ihrem Tool, das auf Methoden der künstlichen Intelligenz basiert und Natural Language Processing (NLP) und Machine Learning nutzt, belegte das Team den dritten Platz beim internationalen EXIST-Wettbewerb. Aber das war nicht das Wichtigste: „Ein zentrales Ziel unserer Forschung ist es, stets einen sinnvollen Beitrag zu leisten, um Probleme in unserer Gesellschaft zu lösen. Eine automatisierte Erkennung von sexistischen Äußerungen kann dazu beitragen, den Diskurs in den Sozialen Medien zu verbessern, Problembewusstsein zu stärken und Maßnahmen gegen diskriminierende Inhalte zu setzen“, sagt Matthias Zeppelzauer, Leiter der Forschungsgruppe Media Computing am Institut für Creative\Media/Technologies der FH St. Pölten.

Gefördert wurde die Initiative unter anderem durch das Projekt defalsif-AI, das sich mit einem anderen Bereich im Netz beschäftigt: der Identifizierung von Fake-News.

Mehr lesen über die Möglichkeiten der künstlichen Intelligenz:

Ein Beitrag von:

  • Nicole Lücke

    Nicole Lücke macht Wissenschaftsjournalismus für Forschungszentren und Hochschulen, berichtet von medizinischen Fachkongressen und betreut Kundenmagazine für Energieversorger. Sie ist Gesellschafterin von Content Qualitäten. Ihre Themen: Energie, Technik, Nachhaltigkeit, Medizin/Medizintechnik.

Stellenangebote im Bereich Softwareentwicklung

FH Münster-Firmenlogo
FH Münster Professur für "Betriebssysteme" am Fachbereich Elektrotechnik und Informatik Münster
FEIG ELECTRONIC GmbH-Firmenlogo
FEIG ELECTRONIC GmbH Software – Ingenieur Linux (m/w/d) – Payment Plattforrm Weilburg
Packsize GmbH-Firmenlogo
Packsize GmbH Software-/Systemintegrator C# & .NET Maschinenbau (m/w/d) Herford
Knorr-Bremse Systeme für Nutzfahrzeuge GmbH Schwieberdingen-Firmenlogo
Knorr-Bremse Systeme für Nutzfahrzeuge GmbH Schwieberdingen Development Engineer Embedded Software (m/w/d) Schwieberdingen bei Stuttgart
Technische Hochschule Nürnberg Georg Simon Ohm-Firmenlogo
Technische Hochschule Nürnberg Georg Simon Ohm Professur (W2) für das Lehr- und Forschungsgebiet KI für Mensch-Maschine-Interaktion im Fahrzeug Nürnberg
Technische Hochschule Nürnberg Georg Simon Ohm-Firmenlogo
Technische Hochschule Nürnberg Georg Simon Ohm Professur (W2) für das Lehr- und Forschungsgebiet KI-basierte Usabilityevaluation Nürnberg
Technische Hochschule Nürnberg Georg Simon Ohm-Firmenlogo
Technische Hochschule Nürnberg Georg Simon Ohm Professur (W2) für das Lehr- und Forschungsgebiet KI-basierte Usabilityevaluation Nürnberg
AVONEL-Firmenlogo
AVONEL Softwaretester Gesamtsysteme (m/w/d) München
Wirtgen GmbH-Firmenlogo
Wirtgen GmbH Softwareentwickler Applikationen für Baumaschinen (m/w/d) Windhagen
Capgemini Engineering / Altran Services GmbH-Firmenlogo
Capgemini Engineering / Altran Services GmbH Embedded Softwareentwickler (m/w/d) München

Alle Softwareentwicklung Jobs

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.