Digitale Desinformation schwächt zunehmend die Handlungsfähigkeit von Behörden und Organisationen mit Sicherheitsaufgaben (BOS) und untergräbt das Vertrauen der Bevölkerung in demokratische Institutionen. Mit dem neuen Forschungsprojekt BOSNET soll dem entgegengewirkt werden – als Behördenpartner ist auch das Technische Hilfswerk (THW) mit Sitz in Bonn beteiligt.

Was BOSNET leisten soll

BOSNET steht für „Behördenübergreifende Informationsbewertung und Austausch von Wissen im Umgang mit Desinformation“. Ziel des Projekts ist die Entwicklung eines KI-Systems, das Desinformation nachvollziehbar und erklärbar identifiziert. Das System soll multimediale, mehrsprachige Desinformation in sozialen Medien erkennen, den Austausch von Gegeninformationen beschleunigen und die Koordination von Kommunikationsstrategien unterstützen. Im Mittelpunkt stehen dabei die Bewertung von Verdachtsfällen und der Aufbau von Strukturen für einen behördenübergreifenden Wissensaustausch.

Konkret sollen zwei Bausteine entstehen: ein KI-basiertes Analysemodul zur Erkennung von Desinformation sowie ein Vernetzungsmodul, das den BOS ermöglicht, sich zu vernetzen und das Entlarven und Widerlegen von Falschinformationen – das sogenannte Debunking – zu koordinieren. Eine gemeinsame Wissensdatenbank soll Informationen zu bekannten Desinformationsfällen und den Reaktionen der beteiligten Behörden zusammenführen und jederzeit abrufbar halten. BOSNET befasst sich dabei ausdrücklich auch mit KI-generierten Falschinformationen, Deepfakes und koordinierten Kampagnen in sozialen Netzwerken.

THW bringt Erfahrung aus dem virtuellen Raum ein

Das THW ist als Behördenpartner an der Entwicklung praxisnaher Lösungen für den Bevölkerungsschutz beteiligt. Dabei bringt die Einsatzorganisation die Erfahrungen ihres Virtual Operations Support Teams (VOST) ein, das seit zehn Jahren im virtuellen Raum arbeitet. THW-Präsidentin Sabine Lackner erklärte: „Als Einsatzorganisation, die mit einer eigenen Einheit im virtuellen Raum bereits Erfahrungen gesammelt hat, stellt das THW sein Know-how bei der Entwicklung praxisnaher Lösungen zum Umgang mit sicherheitsrelevanter Desinformation im Bevölkerungsschutz bereit.“

Rechtswissenschaftliche Begleitung aus Köln

Neben der technischen Entwicklung wird BOSNET auch rechtswissenschaftlich begleitet. An der Universität zu Köln leitet Professorin Dr. Dr. Frauke Rostalski, Inhaberin des Lehrstuhls für Strafrecht, Strafprozessrecht, Rechtsphilosophie und Rechtsvergleichung, ein eigenes Teilprojekt. Es untersucht im Gesamtverbund insbesondere Bedingungen und Grenzen der geplanten Kommunikationsmaßnahmen. Rostalski sagte: „Angesichts der zunehmenden Bedrohung durch Desinformation greift das Projekt rechtlich und gesellschaftlich hochrelevante Fragestellungen auf, deren Beantwortung für den freiheitlichen Rechtsstaat von erheblicher Bedeutung ist. Der interdisziplinäre Ansatz trägt dabei den Herausforderungen des Einsatzes von KI im Sicherheitsbereich angemessen Rechnung.“

Kölns Rektor Joybrato Mukherjee betonte die gesellschaftliche Bedeutung des Vorhabens: Das Projekt greife ein wichtiges Problem auf, das die Demokratie und die Glaubwürdigkeit staatlicher Institutionen bedrohe, und wissenschaftliche Expertise könne hier direkt in die Gesellschaft hineinwirken.

Projektleitung und Partner

Koordiniert wird BOSNET vom Potsdamer Wirtschaftsinformatiker Professor Dr. Stefan Stieglitz. Er erklärte, das Projekt greife aktuelle Debatten zu KI-generierter Desinformation, Deepfakes und koordinierten Kampagnen in sozialen Netzwerken auf und wolle durch praxisnahe Lösungen für Sicherheitsbehörden die öffentliche Diskussion über den Umgang demokratischer Gesellschaften mit digitaler Desinformation bereichern.

Neben der Universität Potsdam als Verbundkoordinator sind die Universität Bamberg, die Universität Tübingen mit dem Internationalen Zentrum für Ethik in den Wissenschaften (IZEW) sowie die Universität zu Köln beteiligt. Als Wirtschaftspartner bringt sich die Virtimo AG ein, als Behördenpartner das THW.

Förderung und Laufzeit

Das Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) fördert BOSNET im Programm „Vertrauen in Demokratie und Staat: Digitale Desinformation erkennen und abwehren“ mit rund 2,5 Millionen Euro. Das Projekt läuft von Juli 2026 bis Juni 2029.