Konsortialbildung und Vorbereitung eines EU-Projekts zum Thema "Intelligente Erkennung und Eindämmung von Hassreden und Emotionen in der Ära der generativen KI"

Die besonders schnellen und voranschreitenden Veränderungen von Technologien, insbesondere im Bereich der KI, sowie die digitale Transformation haben neben den vielen positiven Auswirkungen auch einige unerwünschte Aspekte. Dazu gehören unter anderem Hassrede, Diskriminierung und die Generierung voreingenommener Ergebnisse und deren rasche Verbreitung in den sozialen Medien und im Internet allgemein. Diese Probleme müssen nicht nur erkannt und analysiert, sondern auch proaktiv verhindert und vorgebeut werden. Das geplante EU-Projekt zum Thema "Intelligente Erkennung und Eindämmung von Hassreden und Emotionen in der Ära der generativen KI" fokussiert darauf, dass vorhandene große, trainierte KI-Modelle genutzt werden und sie so anzupassen, dass sie für die Erkennung von Hassreden und die Emotionsanalyse online und offline verwendet werden können. Ziel dieses Vorhabens ist die Vorbereitung und Einreichung eines Projektantrags im Rahmen von Horizon Europe für den Call HORIZON-CL3-2024-FCT-01-05. Die Aufgaben im Vorhaben sind (1) die Etablierung eines europäischen Konsortiums, (2) die Entwicklung des Forschungsprojekts mittels folgender Maßnahmen, (3) die Vorbereitung und Mitarbeit am Projektvorschlag (Exzellenz, Auswirkungen und Umsetzung) und (4)die Begutachtung und Überarbeitung des finalen Antrags.