Am 8. Oktober 2026 ist Desinformation längst kein Randthema mehr. Generative KI macht es einfacher, synthetische Inhalte zu erstellen; manipulierte Medien können in kurzer Zeit massenhaft verbreitet werden. Und selbst KI-Systeme, die Informationen suchen und bewerten sollen, werden zu Angriffszielen. Ein europäisches Forschungsprojekt will deshalb genauer herausfinden, welche Gegenmittel unter echten Bedingungen tatsächlich funktionieren.

FIMI-RESIST wird von Professorin Vera Schmitt und der XplaiNLP-Forschungsgruppe der Johannes Gutenberg-Universität Mainz (JGU) koordiniert. Zehn Partner aus Forschung, Technologie, Medien und Zivilgesellschaft in neun Ländern untersuchen über 30 Monate, wie wirksam europäische Instrumente gegen ausländische Informationsmanipulation und Einflussnahme sind. Horizon Europe fördert das Vorhaben mit rund 3,5 Millionen Euro.

Kein weiteres Einzelwerkzeug

Die Europäische Union hat bereits zahlreiche Projekte und Werkzeuge zur Erkennung und Eindämmung von Desinformation finanziert. Was bislang fehlte, war ein gemeinsamer Rahmen, mit dem sich diese Ansätze systematisch bewerten und miteinander vergleichen lassen. Genau dort setzt FIMI-RESIST an: Das Projekt entwickelt kein weiteres Einzelwerkzeug, sondern einen gemeinsamen Bewertungs- und Harmonierungsrahmen für bestehende europäische Lösungen.

Geprüft werden 20 zuvor EU-finanzierte Werkzeuge. Gemeinsame Kriterien und Benchmarks sollen zeigen, welche Ansätze zu bestimmten Nutzergruppen, Einsatzumgebungen und Bedrohungsszenarien passen. Auf dem Papier klingt das trocken. In der Praxis geht es um ziemlich konkrete Fragen: Hilft ein Werkzeug Journalistinnen und Journalisten im Arbeitsalltag? Lässt es sich in die Abläufe von Faktencheckern integrieren? Wo stoßen Sicherheitsakteure und zivilgesellschaftliche Organisationen angesichts KI-gestützter Bedrohungen an Grenzen?

Journalisten, Faktenchecker, Sicherheitsakteure und zivilgesellschaftliche Organisationen testen genau diese Alltagstauglichkeit. Dabei soll nicht nur sichtbar werden, was funktioniert, sondern auch, wo Lücken bleiben. Gerade bei manipulierten Bildern, Videos und Texten kann der Vorsprung der Technik schnell unangenehm groß werden.

Hier könnte Ihr Advertorial stehen
Ein Advertorial bietet Unternehmen die Möglichkeit, ihre Botschaft direkt im redaktionellen Umfeld zu platzieren

Ein europäisches Netz für die Praxis

Geplant sind außerdem ein Helpdesk, ein europäischer Hub und Schulungsangebote. Validierte Methoden und Projektergebnisse sollen auch nach dem Ende der Förderperiode dauerhaft zugänglich bleiben. Das ist ein wichtiger Punkt, denn Desinformationskampagnen warten nicht auf den nächsten Förderantrag und verschwinden auch nicht, wenn ein Projekt offiziell abgeschlossen ist.

Die Ergebnisse sollen in die europäische Debatte über regulatorische und institutionelle Reaktionen auf Desinformation einfließen. Genannt werden dabei der Digital Services Act, der AI Act und der European Media Freedom Act. Es geht also nicht nur um Forschung am Schreibtisch, sondern auch um die Frage, wie europäische Regeln und Institutionen mit einer sich verändernden Informationslage umgehen können.

Zum Konsortium gehören neben XplaiNLP an der JGU Mainz das Kempelen Institute of Intelligent Technologies in der Slowakei mit Dr. Jakub Šimko, das Centre for Research and Technology Hellas in Griechenland mit Dr. Symeon Papadopoulos sowie die Universität Amsterdam in den Niederlanden mit Professor Richard Rogers. Ebenfalls beteiligt sind Logically/INSIKT aus dem Vereinigten Königreich und Spanien, Factiverse aus Norwegen, Exorde Labs aus Frankreich, das Cyfluence Research Center aus Deutschland, die Deutsche Welle aus Deutschland und VoxUkraine aus der Ukraine.

Gretchen AI aus Deutschland ist assoziierter Partner. Unterstützt wird das Projekt von der Europaabgeordneten Alexandra Geese. Am Projektauftakt wirkten außerdem Saman Nazari von Alliance4Europe, Sandra Fiene von der Europäischen Kommission sowie die Policy- und Projektbeauftragten Ilona von Bethlenfalvy und Alberto Domini mit.

Auftakt in Mainz

Der Projektauftakt fand an der Johannes Gutenberg-Universität Mainz statt. Für die JGU ist das Vorhaben damit nicht bloß ein weiterer europäischer Forschungsverbund: Von Mainz aus wird ein Konsortium koordiniert, das sehr unterschiedliche Perspektiven zusammenbringen muss – Forschung, Technologie, Medien und Zivilgesellschaft, verteilt über neun Länder.

Der Ort, an dem solche Werkzeuge später gebraucht werden, ist allerdings nicht nur ein Konferenzraum. Es sind Redaktionen mit engem Zeitplan, Faktencheck-Teams, Behörden, Sicherheitsakteure und Organisationen, die mitunter ohne große technische Abteilung auskommen müssen. Zwischen einem sauber dokumentierten Benchmark und dem Moment, in dem ein manipuliertes Medium bereits in sozialen Netzwerken kursiert, liegt oft nur ein kurzer Vormittag.

Von der Uni Duisburg Essen aus betrachtet ist das ebenfalls ein Thema, das näher liegt, als es zunächst klingt: Studierende, Wissenschaftler und Mediennutzer begegnen KI-generierten Inhalten täglich – beim Lernen, Recherchieren und Scrollen nebenbei. FIMI-RESIST will nun belastbarer zeigen, welches Werkzeug in welcher Lage trägt. Nicht jedes System muss alles können. Aber es sollte erkennbar sein, wann es hilft, wann Vorsicht angesagt ist und wo Menschen genauer hinschauen müssen.