Credit: AIT / GettyImages
Die Erkennung von Hate Speech wird durch die Verbreitung in sozialen Netzwerken und Messenger-Apps ein immer aktuelleres Thema in unserer Gesellschaft. Da der kommunikative Austausch zwischen Menschen immer öfter und breiter in sozialen Netzwerken stattfindet, treffen Menschen häufig mit unterschiedlichen Meinungen und Standpunkten aufeinander. Das kann dazu führen, dass Mitmenschen diffamiert, beleidigt, oder auch bedroht werden. Diese sogenannte Hassrede wird durch Filter-Bubbles noch verstärkt: Wenn Nutzer:innen einmal in diesen Echo-Kammern angekommen sind, werden ihnen durch den Algorithmus des jeweiligen sozialen Netzwerks und durch automatisch generierte Nachrichten (Bots) immer mehr solcher Inhalte angezeigt. Das erweckt den Eindruck, dass Hassnachrichten sehr weit verbreitet sind. Zusätzlich kommt es durch die Verbreitung von Desinformation immer öfters zu hitzigen Diskussionen, die Hate Speech auslösen können. Hassrede wird hauptsächlich dadurch definiert, dass Personen aufgrund von charakteristischen Merkmalen beleidigt und bedroht werden – hierunter fallen vor allem Sexismus und Rassismus.
Automatische Erkennung von Hate Speech durch Künstliche Intelligenz (KI)
Das AIT Austrian Institute of Technologie besitzt mit dem Center for Digital Safety & Security einen umfassenden Forschungsschwerpunkt rund um die Gestaltung einer sicheren Digitalisierung. Hier werden auf Basis modernster Technologien z.B. maschinelle Lernverfahren (KI) und Computerlinguistik eingesetzt und Werkzeuge entwickelt, durch die eine Erkennung von Hate Speech künftig automatisiert unterstützt werden kann. Ein internationales Team von Data Science Expert:innen erforscht im Rahmen nationaler und europäischer Forschungsprojekte und in enger Zusammenarbeit mit Akteuren aus Wissenschaft, Industrie und öffentlicher Hand modernste Methoden für die Identifizierung von Hassrede im Netz, um dieser ausufernden Problematik effektiv begegnen zu können. Diese medienforensischen Werkzeuge unterstützen künftig z.B. Behörden bei der Auswertung von sehr großen Datenmengen aus dem Internet. Denn in ihrer täglichen Arbeit sehen sich diese heute mit einer Flut von Nachrichten mit potentiellen und möglicherweise strafrechtlich relevanten Hassrede-Kommentaren konfrontiert.
Aktuelle Entwicklungen im Bereich medienforensischer Text-Analyse finden derzeit unter der Leitung der AIT Data Science Expertin Mina Schütz, die für ihre Arbeit 2021 mit den AIT Poster Award für Nachwuchstalente durch das AIT in Kooperation mit dem Tech-Inkubator accent und dem Venture Capital Fonds tecnet equity ausgezeichnet wurde, u.a. im Rahmen des Forschungsprojekts Defalsif-AI statt. Das Projekt adressiert insgesamt die Erkennung von multi-medialer Desinformation und wird innerhalb des Sicherheitsforschungs-Förderprogramms KIRAS durch das Bundesministerium für Landwirtschaft, Regionen und Tourismus (BMLRT) gefördert.
[Kontakt]
Mag. (FH) Michael W. Mürling, Marketing and Communications Manager, Center for Digital Safety & Security, AIT Austrian Institute of Technology; E-Mail: michael.muerling(at)ait.ac.at Web: https://www.ait.ac.at/dss/