Das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) und das Bundesministerium des Innern (BMI) richten das AISI Deutschland in Berlin ein. Sie setzen damit einen Beschluss des Nationalen Sicherheitsrates vom Juni 2026 um.

Zentrales Ziel des Instituts ist es, die Chancen und Risiken, die sich durch fortschrittliche KI-Modelle für Deutschland ergeben, zu evaluieren und die Resilienz im Bereich künstlicher Intelligenz nachhaltig zu stärken. Der Auf- und Ausbau erfolgt schrittweise. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und die Bundesnetzagentur (BNetzA) bilden in einer ersten Phase den „virtuellen“ Nukleus des KI-Sicherheitsinstituts und wurden von BMI und BMDS mit den entsprechenden Aufgaben betraut.

Bundesdigitalminister Dr. Karsten Wildberger erklärte: „Deutschland braucht ein leistungsfähiges KI-Sicherheitsinstitut, das mit der enormen technologischen Entwicklungsgeschwindigkeit Schritt hält. Wir müssen Risiken und Leistungsfähigkeit moderner KI-Systeme technisch fundiert und schnell bewerten können.“ Er freue sich, dass der Aufbau des AISI Deutschland nur kurze Zeit nach der politischen Entscheidung auf den Weg gebracht werde. Das BMDS werde eng mit dem Institut zusammenarbeiten und wichtige Impulse für den sicheren Einsatz von KI-Systemen aufnehmen; zudem solle das Institut eng mit führenden Partnern weltweit vernetzt werden.

Bundesinnenminister Alexander Dobrindt betonte: „Künstliche Intelligenz bietet enorme Chancen für Bürgerinnen und Bürger, Wirtschaft und Staat. Klar ist aber auch: KI muss kontrollierbar bleiben und wir müssen an ihrer rapiden Entwicklung teilhaben.“ Das AISI Deutschland biete die Grundlage, um international Anschluss an die künstliche Intelligenz zu gewinnen.

Aufgabenteilung zwischen BSI und BNetzA

In einer ersten Phase erfolgt eine Aufgabenteilung entlang der Dimensionen (Cyber-)Security, die beim BSI angesiedelt ist, und Safety, die bei der BNetzA liegt. Zudem werden weitere Akteure aus dem Sicherheitsbereich eng eingebunden. In einer zweiten Phase wird das KI-Sicherheitsinstitut thematisch und kapazitär weiter ausgebaut. Es wird einen strukturierten Wissenstransfer sicherheitsrelevanter Erkenntnisse zu künstlicher Intelligenz in Bundesregierung, Verwaltung, Wirtschaft und Zivilgesellschaft sicherstellen. Darüber hinaus soll es der Bundesregierung für eine Beratung zu grundlegenden Fragen der technischen Evaluierung, zu Entwicklungsszenarien und zu strategischen Handlungsbedarfen im Bereich der künstlichen Intelligenz zur Verfügung stehen.

Schwerpunkt auf Cybersicherheit und Kontrollverlust-Risiken

In der jetzt laufenden ersten Phase des Institutsbetriebs liegt ein wichtiger Schwerpunkt in der Analyse und Bewertung führender KI-Modelle – vor allem hinsichtlich ihrer Fähigkeiten und Risiken für die Cybersicherheit. Seit den jüngsten Veröffentlichungen zu aktuellen Vorfällen zeigten sich darüber hinaus zunehmend konkretisierende Risiken durch Kontrollverlust. Sehr leistungsfähige KI-Modelle könnten damit eine Bedrohung für die digitale Lebenswelt sowie die Resilienz von Wirtschaft, Gesellschaft und Demokratie darstellen.

Internationale Vernetzung von Beginn an

Das Institut ist von Beginn an international anschlussfähig und wird eng mit vergleichbaren Einrichtungen anderer Staaten sowie mit multilateralen Strukturen zusammenarbeiten. Eine besondere Bedeutung kommt der Kooperation mit europäischen und transatlantischen Partnern zu. Bereits jetzt findet ein fachlicher Austausch zwischen den beteiligten Behörden sowie mit internationalen Partnerinstitutionen statt, unter anderem mit Frankreich, dem Vereinigten Königreich und dem EU AI Office.

Das deutsche KI-Sicherheitsinstitut wird sich zudem aktiv in das internationale Netzwerk von KI-Sicherheitsinstituten einbringen, das dem Wissensaustausch und der Erarbeitung gemeinsamer Positionen zwischen den beteiligten Staaten dient. Gemeinsam mit internationalen Partnern soll auf einheitliche Standards für den effektiven und sicheren Umgang mit fortschrittlichster KI hingewirkt werden.

Abonnieren Sie unseren WhatsApp-Kanal, um die Neuigkeiten direkt auf Ihr Handy zu erhalten. Einfach den QR-Code auf Ihrem Smartphone einscannen oder – sollten Sie hier bereits mit Ihrem Mobile lesen – diesem Link folgen: