Schnelle, auf künstlicher Intelligenz basierende Erkennung von aggressiven oder radikalen Inhalten im Web (RAIDAR)

Das Projekt RAIDAR erforscht Methoden und Ansätze zur quantitativen Erfassung und Bewertung von demokratiegefährdenden Hassinhalten und Radikalisierung im Netz. Weitere Ziele sind die Entwicklung einer Data-Science-Plattform zur halbautomatischen und vielseitigen Analyse großer Datensätze aus unterschiedlichen Quellen, sowie die Erforschung von Ansätzen und Methoden zur automatisierten Klassifizierung von Inhalten nach Rechtsparagraphen, die aus strafrechtlicher Sicht dem Hass im Web und der Radikalisierung zuzuordnen sind. Aufgrund der rechtlichen, sozialen und kulturellen Komplexität dieser Aufgaben und Ziele schließt die RAIDAR-Forschung eine umfassende ethische und rechtliche Bewertung ein.

Zu den Innovationen von RAIDAR gehören die Entwicklung und Definition von Metriken, Maßnahmen und Methoden zur quantitativen und qualitativen Bewertung von Online-Hass und Radikalisierung sowie die Anwendung von LegalAI auf den Anwendungsbereich von Hate Speech. Projektergebnisse werden teilautomatisierte Assistenzsysteme auf Basis künstlicher Intelligenz im juristischen Bereich, eine konkrete Technikfolgenabschätzung zu ethischen Grenzen und rechtlichen Rahmenbedingungen im Kontext künstlicher Intelligenz für die automatisierte Datenerhebung sowie die Anwendung der RAIDAR-Plattform in einer quantitativen Studie im Bereich "Hate Speech" und "Radikalisierung" zu zeitlich und kontextuell relevanten Inhalten sein.

Fakten:

• Projektbeginn: Oktober 2021
• Projektdauer: 2 Jahre
• Haushaltsmittel: ca. 400k EUR
• Förderung: FFG

Webpage: TBA