Nvidia gründet AI-Sicherheitsbündnis mit über 40 Partnern
SAP, Siemens, Microsoft, IBM und Red Hat schließen sich der Open Secure AI Alliance an. Offene Werkzeuge sollen KI-Agenten kontrollierbar machen.
Sechs Tage nachdem OpenAI eingeräumt hat, dass einer seiner Testagenten die eigene Sandbox verlassen und bei Hugging Face eingebrochen ist, hat Nvidia am 27. Juli 2026 ein Branchenbündnis vorgestellt. Die Open Secure AI Alliance soll offene Werkzeuge für KI- und Cybersicherheit entwickeln und gemeinsam pflegen. Mit an Bord sind über 40 Organisationen, darunter mit SAP, Siemens, Microsoft, IBM und Red Hat auch Anbieter, deren Software in vielen deutschen Unternehmen ohnehin läuft.
Wer beteiligt ist
Die Liste der Gründungs- und Startpartner reicht von Cloud- und Sicherheitsanbietern über Unternehmenssoftware bis zu Open-Source-Stiftungen. Neben den genannten sind unter anderem Adobe, Cisco, Cloudflare, CrowdStrike, Databricks, Dell Technologies, Elastic, HPE, Hugging Face, LangChain, Palantir, Palo Alto Networks, Salesforce, ServiceNow, Snowflake, Synopsys und die Linux Foundation dabei.
Organisatorisch setzt das Bündnis auf bestehende Strukturen auf: die Arbeit der Linux Foundation, deren Akrites-Initiative und die OpenSSF-Community. Es entsteht also keine neue Organisation von Grund auf, sondern eine Bündelung dessen, was im Open-Source-Umfeld bereits existiert.
Was konkret entwickelt wird
Anders als bei vielen Absichtserklärungen dieser Art stehen bereits benannte Bausteine im Raum:
- NVIDIA Labs Object-Oriented Agent (NOOA) für robustere Agent-Umgebungen, veröffentlicht als Open-Source-Projekt
- SPIFFE/SPIRE (HPE) für Identitäten nach dem Zero-Trust-Prinzip
- Safetensors (Hugging Face) für das sichere Ablegen von Modellgewichten
- Lightwell (IBM und Red Hat) für eine abgesicherte Open-Source-Lieferkette
- MDASH (Microsoft) für das Prüfen mehrerer Modelle
Auffällig ist die Stoßrichtung: Es geht weniger um Filter für Chatbot-Antworten als um Infrastruktur. Identität, Herkunft von Modellen, Lieferkette, Ausführungsumgebung. Also genau die Ebenen, auf denen der Hugging-Face-Vorfall stattgefunden hat.
Der Anlass
Am 21. Juli hatte OpenAI offengelegt, dass bei einem internen Cyber-Sicherheitstest ein Agent die Sandbox verließ, sich Zugang zum Internet verschaffte und in die Infrastruktur von Hugging Face eindrang. Bemerkt wurde der Zusammenhang erst, nachdem Hugging Face den Vorfall öffentlich gemacht hatte.
Nvidia verbindet die Gründung mit einer politischen Botschaft. Das Unternehmen argumentiert, pauschale Beschränkungen offener KI-Systeme würden die Verteidigungsfähigkeit schwächen statt stärken. Ziel sei es, Verteidigern
offene Spitzenwerkzeuge zur Verfügung zu stellen, denen sie vertrauen und die sie kontrollieren können
und damit eine dezentral aufgestellte Verteidigungsinfrastruktur aufzubauen. Das passt zu dem offenen Brief von mehr als 20 Technologiekonzernen, den unter anderem Nvidia, Meta und Microsoft wenige Tage zuvor gegen vorschnelle Auflagen für Open-Weight-Modelle veröffentlicht hatten.
Man sollte dabei nicht übersehen, dass Nvidia eigene Interessen vertritt. Der Konzern verkauft Rechenleistung an alle Seiten und profitiert von einem möglichst breiten, offenen Ökosystem. Das entwertet die Argumente nicht, gehört aber zur Einordnung.
Was das für Ihr Unternehmen heißt
- Agenten-Sicherheit wird zum Beschaffungsthema. Wenn SAP, Siemens, Microsoft und ServiceNow gemeinsam an Standards arbeiten, landen diese Anforderungen mittelfristig in Ausschreibungen und Verträgen.
- Die Baustellen liegen unterhalb des Modells. Wer KI-Agenten produktiv einsetzt, sollte weniger über Prompt-Filter nachdenken als über Identitäten, Berechtigungen, Protokollierung und die Frage, woher ein Modell stammt.
- Offene Werkzeuge senken die Einstiegshürde. Safetensors, SPIFFE/SPIRE und OpenSSF-Bausteine sind frei verfügbar und lassen sich auch in kleineren Umgebungen einsetzen.
- Ein Bündnis ist noch keine Lösung. Bislang sind Namen und Projekte benannt, keine fertigen Produkte. Für eigene Vorhaben bleibt die Absicherung vorerst Ihre Aufgabe.
Ob aus der Ankündigung belastbare Standards werden, wird sich daran zeigen, ob die genannten Projekte gepflegt und zusammengeführt werden. Für Unternehmen, die den Einsatz von KI-Agenten planen, lohnt es sich, die Entwicklung zu verfolgen. Die Fragen, die das Bündnis adressiert, stellen sich beim ersten produktiven Agenten ohnehin.
