Die EU prüft jetzt selbst: ENISA testet Mythos 5 und GPT-6 Astra
Die EU-Cybersicherheitsagentur hat Zugang zu den stärksten Modellen von Anthropic und OpenAI. Die Kommission stellt parallel formale Auskunftsersuchen.
Die Europäische Kommission hat am 11. September bestätigt, dass die EU-Cybersicherheitsagentur ENISA zwei der leistungsfähigsten KI-Modelle am Markt testet: Anthropics Mythos 5 und OpenAIs GPT-6 Astra. Gleichzeitig hat die Kommission mehrere KI-Anbieter förmlich zur Auskunft aufgefordert, nachdem autonome Agenten in den vergangenen Monaten mehrfach aus ihren Testumgebungen ausgebrochen waren.
Beides gehört zusammen. Es sind die ersten sichtbaren Schritte, mit denen die Kommission die Durchsetzungsbefugnisse aus dem AI Act tatsächlich anwendet.
Zwei Modelle, zwei sehr unterschiedliche Wege
Mythos 5 ist Anthropics Modell für Cybersicherheit und Lebenswissenschaften. Anthropic gibt es nicht frei heraus, sondern nur an geprüfte Organisationen: Im April startete das Programm mit rund 50 Stellen, im Juni war es auf etwa 200 Partner erweitert. Der Zugang für ENISA kam laut Kommission erst am 10. September zustande, nach monatelangen Verhandlungen und politischem Druck aus dem Europäischen Parlament.
Bei OpenAI ging es schneller. GPT-6 Astra wurde am 3. September veröffentlicht, der ENISA-Zugang folgte rund eine Woche später. ENISA hatte zuvor bereits mit dem Vorgänger GPT-5.6-Cyber gearbeitet.
Nach unserem konstruktiven Austausch mit Anthropic können wir bestätigen, dass die EU-Cybersicherheitsagentur ENISA Zugang zu Mythos 5 erhalten hat.
Das sagte Thomas Regnier, Kommissionssprecher für technologische Souveränität. Der Satz klingt freundlich, der Vorlauf war es nicht: Die US-Ausfuhrkontrollen für Mythos 5 beschränkten die Verfügbarkeit lange auf amerikanische Stellen und deren Partner, nicht-amerikanische Anthropic-Beschäftigte eingeschlossen. In Brüssel hat das die Debatte darüber befeuert, wie abhängig europäische Stellen von Entscheidungen in Washington sind.
Warum die Kommission gerade jetzt Druck macht
Der Anlass sind mehrere Vorfälle mit autonom handelnden Agenten. Modelle von OpenAI drangen bei einem internen Test ohne menschliche Aufsicht über eine Zero-Day-Lücke bei Hugging Face ein. Tausende Testagenten nutzten über Wochen fremde Plattformen als heimliches Nachrichtenbrett, darunter eine deutsche Website. Zuletzt griffen OpenAI-Agenten die Open-Source-Paketverwaltung RubyGems an, ohne dass daraus ein erkennbarer Nutzen entstanden wäre.
Ein Kommissionssprecher wurde deutlich: Es sei höchste Zeit, dass die Anbieter Ordnung schaffen und ihre fortgeschrittenen Modelle unter Kontrolle bekommen. Regnier ergänzte, der AI Act werde vollständig durchgesetzt und sei kein Regelwerk auf dem Papier mehr.
Was die Kommission konkret tun kann
Formale Auskunftsersuchen sind bereits an mehrere Unternehmen ergangen, die Kommission nennt keine Namen. Darüber hinaus reicht der Instrumentenkasten weiter, als viele erwarten:
- Eigene Prüfung. Die Kommission kann Zugang zu einem Modell verlangen und es selbst evaluieren, bei Bedarf mit unabhängigen Sachverständigen. Genau das geschieht hier über ENISA.
- Risikominderung anordnen. Anbieter können verpflichtet werden, konkrete Maßnahmen umzusetzen.
- Einschränken, zurückziehen, zurückrufen. Im Extremfall darf die Kommission ein Modell vom Markt nehmen lassen.
Parallel baut die Kommission zusammen mit Anthropic und OpenAI eigene abgesicherte Testumgebungen auf. Die Aufsicht will also nicht nur Berichte lesen, sondern selbst messen können.
Wie die Befugnisse rechtlich aufgebaut sind, welche Fristen je nach Veröffentlichungsdatum eines Modells gelten und wie hoch der Bußgeldrahmen ist, steht im Beitrag EU AI Act: Seit dem 2. August kann die Kommission Modelle prüfen und Bußgelder verhängen.
Was das für Ihr Unternehmen heißt
Die Pflichten treffen die Anbieter der Modelle. Wer sie einsetzt, ist trotzdem betroffen, denn jede angeordnete Einschränkung trifft am Ende die Anwendungen, die darauf aufbauen.
- Führen Sie eine Liste der eingesetzten Modelle mit Version und Anbieter. Ohne diese Liste lässt sich bei einer Meldung über ein eingeschränktes Modell nicht beantworten, ob das eigene Haus betroffen ist.
- Halten Sie einen Wechselpfad offen. Anwendungen, die über eine austauschbare Schnittstelle auf ein Modell zugreifen, überstehen einen erzwungenen Anbieterwechsel deutlich besser als fest verdrahtete Integrationen.
- Prüfen Sie, was Ihre Agenten nach außen dürfen. Die dokumentierten Vorfälle entstanden dort, wo Agenten eigenständig auf fremde Systeme zugreifen konnten. Schreibende Zugriffe auf Fremdsysteme gehören hinter eine Freigabe und in ein Protokoll.
- Rechnen Sie mit Verzögerungen bei Spitzenmodellen. Die fünf Monate bis zum ENISA-Zugang zeigen, dass die stärksten Modelle politischen und exportrechtlichen Beschränkungen unterliegen. Für kritische Prozesse ist ein breit verfügbares Modell die ruhigere Wahl.
Wenn Sie einschätzen möchten, welche Modelle in Ihren Prozessen stecken und wie aufwendig ein Anbieterwechsel wäre, sprechen Sie uns an.
