Deutschland bekommt ein KI-Sicherheitsinstitut: AISI startet in Berlin

Deutschland hat seit dem 31. August 2026 eine eigene staatliche Prüfstelle für fortgeschrittene KI-Modelle. Das Bundesministerium für Digitales und Staatsmodernisierung (BMDS) und das Bundesministerium des Innern (BMI) richten das AISI Deutschland in Berlin ein und setzen damit einen Beschluss des Nationalen Sicherheitsrates vom Juni 2026 um. Das geht aus der gemeinsamen Pressemitteilung 50/2026 hervor.

Erklärtes Ziel ist es, die Chancen und Risiken fortschrittlicher KI-Modelle für Deutschland zu bewerten und die Resilienz im Bereich künstlicher Intelligenz zu stärken.

Zwei Behörden, zwei Zuständigkeiten

Das Institut startet nicht als neue Behörde mit eigenem Gebäude, sondern als das, was die Pressemitteilung einen virtuellen Nukleus nennt. Diesen Kern bilden zwei bestehende Einrichtungen, die vom BMI und vom BMDS mit den entsprechenden Aufgaben betraut wurden:

• Das Bundesamt für Sicherheit in der Informationstechnik (BSI) verantwortet die Dimension (Cyber-)Security, also die Frage, wie KI-Systeme und ihre Daten gegen Angriffe und Missbrauch geschützt werden.
• Die Bundesnetzagentur verantwortet die Dimension Safety, also die Frage, ob ein System im Betrieb tut, was es soll, und dabei niemanden gefährdet.

Weitere Akteure aus dem Sicherheitsbereich sollen eingebunden werden. In einer zweiten Phase soll das Institut thematisch und personell wachsen. Zu Budget, Stellenzahl oder einem Zeitplan für diese zweite Phase steht in der Mitteilung nichts.

Wonach in Phase eins gesucht wird

Der inhaltliche Schwerpunkt liegt zunächst auf der Analyse und Bewertung führender KI-Modelle, vor allem mit Blick auf deren Fähigkeiten und Risiken für die Cybersicherheit. Daneben nennt die Mitteilung ausdrücklich das Risiko eines Kontrollverlusts, das sich seit den jüngsten Veröffentlichungen zu aktuellen Vorfällen zunehmend konkretisiere. Sehr leistungsfähige Modelle könnten damit zu einer Bedrohung für Wirtschaft, Gesellschaft und Demokratie werden. Welche Vorfälle gemeint sind, benennt die Mitteilung nicht; in diese Kategorie fällt etwa der Ausbruch von OpenAI-Modellen aus einer Testumgebung im Juli.

Bundesdigitalminister Karsten Wildberger begründet den Aufbau mit dem Tempo der Entwicklung: Deutschland brauche ein leistungsfähiges KI-Sicherheitsinstitut, das mit der enormen technologischen Entwicklungsgeschwindigkeit Schritt halte, und müsse Risiken und Leistungsfähigkeit moderner KI-Systeme technisch fundiert und schnell bewerten können. Bundesinnenminister Alexander Dobrindt formuliert es knapper: KIKünstliche Intelligenz (KI)Software, die Aufgaben löst, die sonst menschliche Intelligenz erfordern.Im Glossar ansehen → müsse kontrollierbar bleiben.

Anschluss an ein bestehendes Netz

Das Institut ist von Beginn an international angelegt. Ein fachlicher Austausch läuft bereits mit Frankreich, dem Vereinigten Königreich und dem EU AI Office. Darüber hinaus will sich AISI Deutschland in das internationale Netzwerk von KI-Sicherheitsinstituten einbringen und mit den Partnern auf einheitliche Standards für den Umgang mit fortschrittlichster KI hinwirken.

Das britische Vorbild ist dabei mehr als eine Namensanleihe. Großbritannien hatte 2023 als erstes Land ein AI Safety Institute gegründet und es im Februar 2025 in AI Security Institute umbenannt, um den Schwerpunkt auf sicherheitsrelevante Risiken wie Cyberangriffe und Betrug zu verschieben. Die deutsche Konstruktion trennt genau diese beiden Stränge nicht sprachlich, sondern organisatorisch: Security beim BSI, Safety bei der Bundesnetzagentur.

Warum das über die Sicherheitspolitik hinaus relevant ist

Für Unternehmen ist vor allem die Besetzung interessant. Die Bundesnetzagentur ist mit dem KI-Marktüberwachungs- und Innovationsförderungsgesetz, das der Bundestag am 11. Juni 2026 beschlossen hat, ohnehin schon zentrale KI-Aufsichtsbehörde in Deutschland (mehr dazu im Beitrag zum EU AI Act ab dem 2. August 2026). Dieselbe Behörde, die Marktüberwachung betreibt und Unterlagen anfordern kann, baut nun technische Bewertungskompetenz für Spitzenmodelle mit auf.

Ein förmliches Mandat, Konformitätsnachweise nach der KI-Verordnung zu erteilen, hat das Institut nicht, und die Pressemitteilung stellt eine solche Verbindung auch nicht her. Praktisch entsteht in Deutschland damit aber erstmals eine staatliche Stelle, die eigene Prüfverfahren für Spitzenmodelle entwickelt. Welche Kriterien sie anlegt, dürfte mittelfristig sowohl in öffentlichen Beschaffungsverfahren als auch bei der Frage auftauchen, was als belastbarer Nachweis für die Sicherheit eines Modells gilt.

Offen bleibt vorerst, wie schnell aus dem virtuellen Nukleus eine arbeitsfähige Prüfstelle mit eigener Rechenkapazität wird. Wissenschaftler haben nach dem Start bereits angemerkt, dass es neben staatlichen Instituten auch Investitionen in eigene Infrastruktur und offene Modelle brauche.

Quellen

• Bundesministerium für Digitales und Staatsmodernisierung, Pressemitteilung 50/2026 vom 31. August 2026: AISI Deutschland gegründet
• heise online vom 1. September 2026: KI-Sicherheitsinstitut kommt nach Berlin
• UK Department for Science, Innovation and Technology, Februar 2025: Umbenennung in AI Security Institute