DesinFact - Früherkennung von Desinformation

Katharina Kloiber | 05.12.2025

Unverbindlich Informieren

Das Projekt DesinFact hat sich von Januar 2024 bis Dezember 2025 mit der Erforschung von Ansätzen zum Erkennen von Trends in frühen Stadien und deren Bewertung hinsichtlich Desinformation auseinandergesetzt.

Desinformation stellt eine große Herausforderung für unsere Gesellschaft dar. Konzertierte Desinformations-Kampagnen sind ein Aspekt hybrider Bedrohungen, welche einerseits darauf abzielen können, konkrete kritische Infrastrukturen zu stören oder zu beschädigen – wie z.B. die Verteilungssicherheit von Energieträgern, Rohstoffen oder Medikamenten – oder andererseits, erweiterte kritische Infrastrukturen wie demokratische Einrichtungen zu unterminieren und das Vertrauen in sie oder deren Vertreter zu zerstören.

Ein rechtzeitiges Erkennen von Desinformations-Kampagnen stellt somit einen essenziellen Beitrag zur Resilienz gegenüber solchen Bedrohungslagen dar. Aktuell stehen jedoch kaum Hilfsmittel zur Verfügung, um aktiv und frühzeitig Desinformations-Kampagnen zu erkennen. Betroffene erfahren oft viel zu spät über deren Involvierung, was deren Möglichkeiten einschränkt, wirksam darauf reagieren zu können. Oft bleibt nur noch Schadensbegrenzung übrig. Eine frühzeitige Erkennung solcher Trends würde einen Handlungsspielraum verschaffen, um z.B. geeignete Gegendarstellungen auszuarbeiten.

DesinFact hat zum Ziel, den Forschungsstand zur automatischen Erkennung von Desinformationstrends zu verbessern, Lücken in technischen, rechtlichen und ethischen Bereichen zu identifizieren und geeignete Ansätze zu entwickeln, um ein solches System zu ermöglichen.

Erforschung der Bereitstellung eines öffentlichen Systems zur Erkennung von Desinformation

Ein öffentliches System soll es Bürger*innen ermöglichen, online Inhalte auf Desinformation hin untersuchen zu lassen. In DesinFact haben wir daher prototypisch ein Browser-Plugin sowie ein Dashboard aufgesetzt, das die Abfrage von Webseiten-Inhalten ermöglicht und Analyseergebnisse ausgibt. In enger Zusammenarbeit mit den Projektpartner*innen haben wir uns dabei mit sozio-technischen Aspekten auseinandergesetzt, die für eine adäquate Einführung einer solchen Technologie relevant sind.

Dabei hat sich gezeigt, dass die Bereitstellung eines Systems zur Erkennung von Desinformation aus technischer Sicht unproblematisch ist und großteils von den vorhandenen Hardware-Ressourcen abhängt. Sowohl Anonymität der User und Suchverläufe als auch die Auswertung von Trends können technisch realisiert werden. Eine zusätzliche manuelle Qualitätskontrolle sowie entsprechende Prozesse verhindern zudem Missbrauch adäquat.

Anders ist dies allerdings bei der Analyse der Inhalte und der Darstellung der Ergebnisse gelagert. Die größte Herausforderung liegt darin, Ergebnisse als Entscheidungshilfe ohne eine Bewertung darzustellen. Da Desinformation eine hochkomplexe Aufgabenstellung ist, deren Einschätzung von zahlreichen Faktoren abhängt, sind kontroversielle Entscheidungen kaum vermeidbar. Dementsprechend müssen sowohl die Bewertungssysteme als auch die Ergebnispräsentation klar und verständlich sein, was sich im Laufe des Projekts bestätigt hat.

Interdisziplinäre Zusammenarbeit

Das Projekt DesinFact wird von der Österreichischen Forschungsförderungsgesellschaft (FFG) im Rahmen des Programms KIRAS gefördert. Folgende Projektpartner*innen forschen dabei gemeinsam an Möglichkeiten zur Desinformations-Früherkennung:

beschreibung