Mit der rasanten Entwicklung leistungsfähiger KI-Modelle wachsen neben ihren Anwendungsmöglichkeiten auch die Risiken für Cybersicherheit und digitale Resilienz. Deutschland schafft deshalb eine eigene Struktur, um Fähigkeiten und Gefahren solcher Systeme technisch zu bewerten und sicherheitsrelevante Entwicklungen frühzeitig zu erkennen. Das neue KI-Sicherheitsinstitut „AISI Deutschland“ nimmt in Berlin seine Arbeit auf. Das Bundesministerium für Digitales und Staatsmodernisierung sowie das Bundesministerium des Innern setzen damit einen Beschluss des Nationalen Sicherheitsrates vom Juni 2026 um. Das Institut soll die Fähigkeiten und Risiken fortschrittlicher KI-Modelle technisch untersuchen und dazu beitragen, die Resilienz Deutschlands im Umgang mit künstlicher Intelligenz zu stärken.
Der Aufbau erfolgt schrittweise. In der ersten Phase bilden das Bundesamt für Sicherheit in der Informationstechnik, BSI, und die Bundesnetzagentur den virtuellen Kern des Instituts. Die Aufgaben verteilen sich zunächst auf die Bereiche Cybersecurity und Security beim BSI sowie Safety bei der Bundesnetzagentur. Weitere Akteure aus dem Sicherheitsbereich sollen eingebunden werden.
KI-Sicherheitsinstitut untersucht leistungsfähige KI-Modelle
Ein Schwerpunkt der ersten Betriebsphase liegt auf der Analyse und Bewertung führender KI-Modelle. Untersucht werden sollen insbesondere ihre Fähigkeiten und mögliche Risiken für die Cybersicherheit. Darüber hinaus rücken Risiken in den Blick, die sich aus einem möglichen Kontrollverlust über sehr leistungsfähige KI-Systeme ergeben können. Bundesdigitalminister Karsten Wildberger erklärt: „Deutschland braucht ein leistungsfähiges KI-Sicherheitsinstitut, das mit der enormen technologischen Entwicklungsgeschwindigkeit Schritt hält. Wir müssen Risiken und Leistungsfähigkeit moderner KI-Systeme technisch fundiert und schnell bewerten können. Deshalb freue ich mich, dass wir nur kurze Zeit nach der politischen Entscheidung den Aufbau des ,AISI Deutschland' auf den Weg bringen. Das BMDS wird eng mit dem Institut zusammenarbeiten und wichtige Impulse für den sicheren Einsatz von KI-Systemen aufnehmen. Wir werden das Institut eng mit führenden Partnern weltweit vernetzen.“
Cybersecurity und Safety werden zunächst aufgeteilt
Die organisatorische Aufteilung zwischen BSI und Bundesnetzagentur soll unterschiedliche Sicherheitsdimensionen der künstlichen Intelligenz abdecken. Während das BSI Aufgaben im Bereich der Cybersecurity übernimmt, liegt der Schwerpunkt der Bundesnetzagentur auf Safety. In einer zweiten Phase soll das Institut sowohl thematisch als auch personell beziehungsweise kapazitär ausgebaut werden. Vorgesehen ist ein strukturierter Transfer sicherheitsrelevanter Erkenntnisse zu künstlicher Intelligenz in Bundesregierung, Verwaltung, Wirtschaft und Zivilgesellschaft. Darüber hinaus soll das Institut die Bundesregierung bei Fragen zur technischen Evaluierung, zu möglichen Entwicklungsszenarien und zu strategischen Handlungsbedarfen beraten.
KI-Sicherheitsinstitut soll international vernetzt arbeiten
Von Beginn an ist eine Zusammenarbeit mit vergleichbaren Einrichtungen anderer Staaten und multilateralen Strukturen vorgesehen. Ein besonderer Schwerpunkt liegt auf europäischen und transatlantischen Partnern. Nach Angaben der beteiligten Ministerien findet bereits ein fachlicher Austausch mit Institutionen unter anderem in Frankreich und dem Vereinigten Königreich sowie mit dem EU AI Office statt. Darüber hinaus soll sich „AISI Deutschland“ am internationalen Netzwerk der KI-Sicherheitsinstitute beteiligen. Ziel ist der Austausch sicherheitsrelevanter Erkenntnisse und die Entwicklung gemeinsamer Positionen. Gemeinsam mit internationalen Partnern sollen außerdem einheitliche Standards für den sicheren Umgang mit fortschrittlichen KI-Systemen vorangetrieben werden.
Bundesinnenminister Alexander Dobrindt sagt: „Künstliche Intelligenz bietet enorme Chancen für Bürgerinnen und Bürger, Wirtschaft und Staat. Klar ist aber auch: KI muss kontrollierbar bleiben und wir müssen an ihrer rapiden Entwicklung teilhaben. Das ,AISI Deutschland' bietet die Grundlage, um international Anschluss an die künstliche Intelligenz zu gewinnen.“
Tüv-Verband sieht KI-Sicherheitsinstitut als Kompetenzzentrum
Der Tüv-Verband begrüßt die Gründung und spricht sich für einen zügigen Ausbau des Instituts aus. Aus Sicht des Verbands sollte ein Schwerpunkt auf der technischen Bewertung leistungsfähiger KI-Modelle und der frühzeitigen Erkennung möglicher Risiken liegen. Patrick Gilroy, Referent Künstliche Intelligenz und Bildung beim Tüv-Verband, erklärt: „Die Gründung des ,AISI Deutschland' ist ein wichtiger Schritt für den KI-Sicherheitsstandort Deutschland. Andere Staaten verfügen bereits über eigene KI-Sicherheitsinstitute und arbeiten international eng zusammen. Mit dem ,AISI' sitzt Deutschland jetzt mit am internationalen KI-Sicherheitstisch. Das ,AISI' kann Kompetenzen bündeln, eigene Impulse setzen und sich stärker in die internationale Zusammenarbeit zur KI-Sicherheit einbringen. Inhaltlich muss es vor allem darum gehen, die Fähigkeiten leistungsfähiger KI-Modelle technisch fundiert zu bewerten, Risiken frühzeitig zu erkennen und gemeinsam mit KI-Anbietern, Unternehmen und weiteren Akteuren geeignete Maßnahmen zu entwickeln, um diese Risiken zu adressieren."
Berlin als starkes KI-Cluster
Auch den Standort Berlin bewertet der Verband positiv. Gilroy führt aus: „Berlin ist dafür ein sehr guter Standort. In der Hauptstadt treffen ein starkes KI- und Start-up-Ökosystem, Wissenschaft und Wirtschaft auf die unmittelbare Nähe zu Bundesregierung, BMDS und weiteren relevanten Institutionen. Auch die Tüv-Organisationen haben mit dem ,TÜV AI.Lab' in Berlin bereits gezielt Kompetenzen für die unabhängige Prüfung und Bewertung von künstlicher Intelligenz aufgebaut. Die kurzen Wege und die internationale Attraktivität Berlins schaffen sehr gute Voraussetzungen, staatliche Analyse, Forschung, Regulierung und unabhängige Prüfpraxis miteinander zu verbinden.“
