Agentische KI und DSGVO: Was das persistente Gedächtnis von KI-Agenten verändert

Die CNIL (die französische Datenschutzbehörde) und der Conseil de l'intelligence artificielle et du numérique (CIANum, der französische Rat für künstliche Intelligenz und Digitales) haben am 29. Juli 2026 eine Mitteilung veröffentlicht, die bei Softwareanbietern in Frankreich viel Aufsehen erregt: Die agentische KI stellt sechs Grundprinzipien der DSGVO infrage. Grund dafür ist die Fähigkeit dieser Agenten, allein und über lange Zeit zu handeln, gestützt auf ein persistentes Gedächtnis, das nicht so leicht verschwindet wie eine aus einem gemeinsam genutzten Ordner gelöschte Datei.

Sechs Prinzipien der DSGVO auf dem Prüfstand

Die Mitteilung identifiziert sechs Reibungspunkte zwischen der Funktionsweise autonomer Agenten und dem europäischen Datenschutzrahmen:

• Zweckbindung: Ein Agent, der mehrere Aufgaben hintereinander ausführt, verwischt den genauen Umfang der durchgeführten Verarbeitungen;
• Rechtsgrundlage: Die Entscheidungsautonomie erschwert es, jede Handlung der Rechtmäßigkeit zuzuordnen, die sie ursprünglich gerechtfertigt hat;
• Datenminimierung: Agenten greifen oft auf große Datenmengen zurück, ohne dass die Notwendigkeit klar nachgewiesen wird;
• Richtigkeit: Eine Halluzination kann sich ohne Warnmechanismus von einer Aufgabe zur nächsten fortpflanzen;
• Transparenz: Die Ausgaben bleiben aufgrund der probabilistischen Architektur der Modelle schwer erklärbar;
• Speicherbegrenzung: Die verteilten und zahlreichen Gedächtnisinstanzen können über das Notwendige hinaus bestehen bleiben.

Dieser letzte Punkt ist für den Endnutzer wohl der konkreteste: Das Löschen eines Dokuments aus einem gemeinsam genutzten Bereich garantiert nicht dessen Löschung aus dem Gedächtnis eines Agenten, der es bereits eingesehen hatte. Es entsteht dann eine Diskrepanz zwischen der logischen Löschung, die für den Nutzer sichtbar ist, und der technischen Persistenz, die für ihn unsichtbar bleibt. Wir sind bereits in unserer Warnung zu den einer KI überlassenen Daten auf dieses Risiko eingegangen.

Technische Empfehlungen, noch keine neuen Pflichten

Die CNIL und der CIANum stellen klar, dass die DSGVO und die europäische KI-Verordnung bereits für autonome Agenten gelten: Es handelt sich um eine explorative Mitteilung, die zur Anpassung der Umsetzungsmodalitäten einlädt, nicht um einen neuen Gesetzestext. Für die Entwickler und Betreiber dieser Systeme werden mehrere konkrete Ansätze vorgeschlagen:

• Gedächtnisse abschotten, wobei jeder Agent über ein eigenes, isoliertes Gedächtnis verfügt, ohne automatischen Zugriff auf die Daten anderer Agenten;
• Größe und Lebensdauer dieser Gedächtnisse begrenzen;
• Agenten in einer eingeschränkten Umgebung (Sandboxing) einsetzen, ähnlich wie es bereits bei manchen Tools zur Codeausführung in isolierter Umgebung praktiziert wird;
• einen Notausschalter vorsehen, der jeden laufenden Prozess unterbrechen kann;
• Handlungen nach Risikostufe klassifizieren, mit obligatorischer menschlicher Validierung für die sensibelsten.

Das Dokument weist zudem darauf hin, dass der Datenaustausch zwischen mehreren Diensten die Zuordnung der Verantwortlichkeiten jeder beteiligten Partei erschwert – eine Herausforderung, die für große Organisationen, die solche Tools in großem Maßstab einsetzen, bereits sehr konkret ist, wie der Einsatz eines KI-Agenten für 27.000 Mitarbeiter bei Adecco zeigt.

Was das für die Nutzer bedeutet

Für Privatpersonen ist die Botschaft einfach: Ein Agent, der einmal Zugriff auf ein E-Mail-Postfach, einen Kalender oder ein Zahlungsmittel hatte, kann sich noch lange danach auf diese Informationen stützen, selbst wenn der ursprüngliche Zugriff widerrufen wurde. Genau darum geht es bei KI-Agenten, die sich zunehmend im beruflichen Alltag etablieren, wie auch der Fall der Doctolib-Gesundheitsdaten, die ohne Widerspruch weiterverwendet werden, zeigt. Bevor man einem Agenten eine sensible Aufgabe überträgt, sollte man besser prüfen, ob er ein zeitlich begrenztes Gedächtnis und einen einsehbaren Verlauf bietet, anstatt sich allein auf das Versprechen der „Personalisierung“ zu verlassen. Diese Prüfpunkte schließen an die Hinweise an, die bereits in unserer Rubrik KI-Agenten verstehen gegeben wurden.

Häufig gestellte Fragen

Schafft die CNIL-Mitteilung neue rechtliche Pflichten?

Nein, es handelt sich um eine explorative Mitteilung, die am 29. Juli 2026 gemeinsam mit dem CIANum veröffentlicht wurde. Sie erinnert daran, dass die DSGVO und die europäische KI-Verordnung bereits für autonome Agenten gelten, und lädt dazu ein, deren technische Umsetzung anzupassen.

Warum stellt das Gedächtnis von KI-Agenten ein besonderes Problem dar?

Weil das Löschen einer Datei aus einem gemeinsam genutzten Bereich nicht deren Löschung aus dem Gedächtnis eines Agenten garantiert, der sie bereits eingesehen hatte: Die Gedächtnisinstanzen können über das Notwendige hinaus bestehen bleiben, im Widerspruch zum Grundsatz der Speicherbegrenzung.

Welche technischen Vorsichtsmaßnahmen empfiehlt die CNIL/CIANum-Mitteilung?

Unter anderem: abgeschottete und zeitlich begrenzte Gedächtnisse pro Agent, eine eingeschränkte Ausführungsumgebung (Sandboxing), ein Notausschalter und eine menschliche Validierung für die riskantesten Handlungen.

Quellen

• CNIL — Künstliche Intelligenz
• IT Social — Die CNIL und der CIANum listen sechs Verstöße gegen die DSGVO auf
• Solutions Numériques — Agentische KI und DSGVO

Dieser Artikel wurde mit Unterstützung künstlicher Intelligenz erstellt. Redaktionsrichtlinie