Autonomie ist keine Ausrede: Britische Datenschutzaufsicht nimmt KI-Agenten ins Visier
Zehn KI-Anbieter bessern auf Druck der britischen ICO beim Datenschutz nach. Jetzt sind KI-Agenten dran: Die Behörde sammelt bis 20. November Stellungnahmen, auch von Unternehmen, die Agenten einsetzen.
Die britische Datenschutzaufsicht ICO hat am 8. Oktober 2026 eine Bilanz ihrer zweijährigen Aufsicht über die großen KI-Entwickler gezogen. Zehn Anbieter haben Änderungen beim Datenschutz umgesetzt oder zugesagt: Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, Meta, Microsoft, OpenAI und Stability AI. Gleichzeitig kündigt die Behörde an, als Nächstes KI-Agenten genauer zu prüfen, und startet dazu eine öffentliche Konsultation.
Für Unternehmen in Deutschland gilt britisches Recht nicht unmittelbar. Die UK GDPR ist aber eng mit der DSGVO verwandt, und die Fragen, die die ICO jetzt stellt, betreffen jeden, der Agenten mit Zugriff auf Kundendaten, Postfächer oder interne Systeme betreibt.
Was die Anbieter zugesagt haben
Laut dem begleitenden ICO-Bericht ging es vor allem um zwei Punkte: die Rechtsgrundlage für das Training mit Daten aus dem Netz, also das berechtigte Interesse, und die Transparenz gegenüber Menschen, deren Daten in den Trainingsdaten stecken.
- Apple, Cohere und OpenAI haben bereits eigene Datenschutzhinweise nur zum Modelltraining veröffentlicht, mit Angaben zu Datenquellen, Speicherdauer, Übermittlung ins Ausland und Betroffenenrechten. Apple listet zusätzlich die genutzten Fremd-Datensätze auf.
- Anthropic hat seine Datenschutzerklärung für Menschen überarbeitet, die Claude gar nicht nutzen, deren Daten aber im Training landen können. Sie beschreibt jetzt die Verarbeitungszwecke über den gesamten Entwicklungszyklus.
- OpenAI, Meta, Google, Microsoft und Stability AI haben ihre Interessenabwägung nach Art. 6 Abs. 1 lit. f UK GDPR mit zusätzlichen Belegen untermauert, überarbeitet oder dies zugesagt. Meta legte etwa Tests vor, ob das Modell Trainingsdaten auswendig gelernt hat.
- DeepSeek hat überhaupt erst eine solche Interessenabwägung erstellt und will erklären, welche personenbezogenen Daten Dritter im Training stecken.
Bemerkenswert offen ist eine Feststellung der Behörde: Heutige Trainingsmethoden seien technisch schwer mit dem Grundsatz des Datenschutzes durch Technikgestaltung vereinbar. Diese Grenzen des geltenden Rechts will die ICO mit der Regierung besprechen. Der elfte Entwickler im Programm, xAI, ist nicht dabei: Wegen einer laufenden förmlichen Untersuchung zu Grok, die im Februar 2026 begann, hat die ICO die Zusammenarbeit pausiert.
Der neue Schwerpunkt: Agenten
Der wichtigere Teil der Meldung blickt nach vorn. Die ICO hat bei OpenAI, Anthropic, Meta und dem britischen AI Security Institute nachgefragt, welche Risikobewertungen und Schutzmaßnahmen bei jüngsten Tests und Einsätzen von Agenten galten. In einigen Fällen hätten Agenten laut Berichten Schutzmechanismen umgangen, nicht erlaubte Kommunikationswege genutzt und auf externe Systeme wie Hugging Face zugegriffen. Welche Vorfälle genau gemeint sind, nennt die Behörde nicht. Im Sommer hatte etwa OpenAI gemeldet, dass KI-Modelle ungewollt bei Hugging Face eingedrungen sind, und Anthropic berichtete von drei Sicherheitsvorfällen, bei denen Modelle echte Systeme angriffen.
Richard Nevinson, bei der ICO Direktor für Technologieregulierung, wird in der Pressemitteilung deutlich (übersetzt):
Unsere Botschaft ist klar: Dass KI-Agenten autonom handeln, ist keine Entschuldigung für mangelhafte Compliance. Wenn Menschen KI-Innovationen vertrauen sollen, erwarten sie zu Recht zu erfahren, wie ihre personenbezogenen Daten geschützt werden.
Konsultation bis 20. November
Parallel läuft bis zum 20. November 2026 ein Aufruf zur Stellungnahme zu agentischer KI. Die ICO fragt nach sechs Themen: Datensicherheit, Transparenz in komplexen Lieferketten, Verantwortlichkeit, automatisierte Entscheidungen, Fairness und Zweckbindung sowie Rechtmäßigkeit. Angesprochen sind ausdrücklich nicht nur Entwickler, sondern alle, die Agenten datenschutzkonform nutzen wollen, dazu Rechts- und Technikfachleute. Die Ergebnisse sollen in Leitlinien und in einen gesetzlich vorgesehenen Verhaltenskodex zu KI und automatisierten Entscheidungen einfließen.
Das ist auch für deutsche Firmen interessant. Erstens gibt die Fragenliste einen guten Vorgeschmack darauf, was Aufsichtsbehörden künftig wissen wollen. Zweitens ist das Thema auch in der EU angekommen: Die EU-Kommission hat wegen ausgebrochener Agenten laut heise bereits im September Auskunftsersuchen an mehrere Unternehmen gerichtet und dabei auf den AI Act verwiesen. Von deutschen Aufsichtsbehörden gibt es zu Agenten bislang keine vergleichbare Initiative.
Was das für Ihr Unternehmen heißt
- Die sechs Themen der ICO als Prüfliste für eigene Agenten nutzen: Welche Daten sieht der Agent, wer ist verantwortlich, trifft er Entscheidungen über Menschen, und ist das alles in der Datenschutzerklärung beschrieben?
- Agenten wie eigene Konten mit eigenen Rechten behandeln, nicht wie ein Werkzeug des Nutzers. Wer Postfach, CRM und Ablage freigibt, sollte den Zugriff so eng wie möglich zuschneiden und protokollieren.
- Lieferketten dokumentieren: Bei Agenten sind oft Modellanbieter, Plattform und Integrator beteiligt. Klären Sie im Auftragsverarbeitungsvertrag, wer welche Rolle hat.
- Die neuen Trainings-Datenschutzhinweise der Anbieter lesen, wenn Sie deren Modelle einsetzen. Sie beantworten Fragen, die Kunden oder der Datenschutzbeauftragte ohnehin stellen werden.
- Wer Agenten in Großbritannien anbietet oder dort Kunden hat, kann bis 20. November selbst Stellung nehmen.
Fazit
Die ICO zeigt, dass Aufsicht über die großen KI-Anbieter konkrete Ergebnisse bringen kann, auch wenn vieles erst zugesagt ist. Wichtiger für Anwender ist der nächste Schritt: Mit den Agenten rückt die Verantwortung näher an die Unternehmen, die sie einsetzen. Wer heute Rechte, Protokolle und Zuständigkeiten sauber regelt, ist für kommende Leitlinien gut aufgestellt, in Großbritannien wie in der EU. Wenn Sie Ihre Agenten-Projekte datenschutzfest aufsetzen möchten, sprechen Sie mich gern an.
