Ireland's Data Protection Commission (DPC) und das UK Information Commissioner's Office (ICO) haben 2026 major investigations gegen X (formerly Twitter) und sein Grok AI System eingeleitet – wegen der Erzeugung non-consensual Deepfake-Images von realen Personen, inklusive Minderjährigen. Der Fall markiert einen kritischen Shift: GDPR ist nicht mehr nur Compliance-Framework für Data Storage – es wird zum primary Enforcement Tool gegen harmful AI outputs.
Der Fall: X/Grok Deepfake Investigation
Exabeam GDPR and AI: "In 2026, European regulators — including Ireland's Data Protection Commission and the UK's Information Commissioner's Office — launched major investigations into X (formerly Twitter) and its Grok AI system over the creation of non-consensual deepfake images of real people, including minors."
Was passierte:
Grok AI (X's generative AI-Model) ermöglichte Users, photorealistic Deepfake-Images von realen Personen zu generieren – ohne Consent der abgebildeten Personen.
Die Probleme:
- Non-Consensual Image Generation: Users gaben Namen/Fotos von Personen ein → Grok generierte Deepfakes (oft sexualisiert oder in kompromittierenden Situationen).
- Minors betroffen: Einige generierte Images zeigten Minderjährige in unangemessenen Kontexten.
- Biometric Data Processing: Grok nutzte Biometrische Daten (Gesichtserkennung) aus Real-World-Fotos, um Deepfakes zu erzeugen.
Exabeam: "Regulators have emphasized that using personal data (including images) to generate such content may constitute a serious GDPR violation, especially when it involves sensitive or identifiable data."
Warum das eine GDPR-Violation ist
GDPR Article 9: Biometric Data (Gesichtsbilder für Identifikation) ist Special Category Data – darf nur mit explicit consent oder anderen engen Lawful Bases processed werden.
Das Problem mit Grok:
1. Kein Consent:
Die abgebildeten Personen haben nie Consent gegeben, dass ihre Gesichtsbilder für AI-Training oder Deepfake-Generation genutzt werden.
2. Processing without Lawful Basis:
GDPR Art. 6: Personal Data Processing braucht Lawful Basis. Deepfake-Generation ohne Consent hat keine Lawful Basis.
3. Purpose Limitation Violation:
Selbst wenn Original-Images mit Consent hochgeladen wurden (z.B. als Public Twitter-Posts), war die Purpose nicht "Deepfake-Generation für Third-Parties."
Exabeam: "These cases highlight a major shift: GDPR is no longer just a compliance framework for data storage and processing, it is becoming a primary enforcement tool against harmful AI outputs, particularly in areas like deepfakes, biometric data use, and generative AI misuse."
Die Investigations: Was Regulators prüfen
Ireland DPC (Lead Authority für X in EU):
1. Data Processing Lawfulness
- Auf welcher Lawful Basis (GDPR Art. 6) processed Grok Biometric Data?
- Wurde Consent eingeholt? (Für AI-Training, für Deepfake-Generation?)
2. Special Category Data Handling
- GDPR Art. 9: Biometric Data ist Special Category. Welche safeguards hat X implementiert?
3. Data Subject Rights
- Können Data Subjects Right to Erasure (GDPR Art. 17) ausüben? (Kann man fordern, dass das eigene Gesicht aus Grok-Training-Data gelöscht wird?)
UK ICO (für UK-Residents):
1. Age Verification
- Grok generierte Deepfakes von Minors → Wie verifiziert X, dass Users keine Deepfakes von Kindern generieren?
2. Accountability
- GDPR Art. 5(2): Controllers müssen demonstrate compliance. Welche logs, audits, safeguards hat X?
InsidePrivacy EU Privacy 2026: "AI will remain a central policy and regulatory theme in 2026. These investigations set precedent for how GDPR applies to generative AI outputs."
Die breitere Implications: GDPR als AI-Regulation
Exabeam: "GDPR is no longer just a compliance framework for data storage and processing, it is becoming a primary enforcement tool against harmful AI outputs."
Drei Bereiche, wo GDPR AI reguliert:
1. Training Data Lawfulness
GDPR Question: Darf ein AI-Model mit scraped Internet-Data trainiert werden, die Personal Data (Gesichter, Namen, Emails) enthält – ohne Consent?
Regulators' Answer (2026): Nein, nicht ohne Lawful Basis.
Exabeam: "The EDPB has indicated that AI models trained on personal data cannot always be considered anonymous, a position that could have far-reaching implications for how organisations develop and deploy machine learning systems."
2. Biometric Data Use
GDPR Art. 9: Biometric Data für unique identification ist Special Category.
Generative AI Problem: Modelle wie Stable Diffusion, Midjourney, Grok nutzen Gesichtsbilder (Biometric Data) für Training.
Regulators' Position: Das ist Biometric Data Processing – und braucht explicit consent oder andere enge Lawful Bases.
3. Data Subject Rights in AI Context
GDPR Art. 17 (Right to Erasure): Data Subjects können fordern, dass ihre Personal Data gelöscht werden.
AI Problem: Kann man fordern, dass das eigene Gesicht aus einem AI-Model gelöscht wird? (Nicht nur Training-Data löschen, sondern Model selbst re-trainen ohne die Daten?)
Regulators' Expectation (2026): Ja, das muss möglich sein. Model-Providers müssen mechanisms haben, um Data Subject Rights zu erfüllen (z.B. Model Re-Training oder Opt-Out-Mechanisms).
Was das für AI-Entwickler bedeutet
TechRadar Grok EU Probe: "The Grok backlash intensifies. New EU probe investigates whether millions of potentially harmful deepfake images broke data privacy laws."
Praktische Implications:
1. Consent für AI Training
Nicht ausreichend: "By using this service, you agree to our Privacy Policy" (buried in ToS).
Erwartet: Explicit, Granular Consent für AI Training (separate Opt-In, nicht bundled mit anderen Purposes).
2. Age Verification für Generative AI
Wenn AI-System Deepfakes generieren kann, muss verhindert werden, dass Minors abgebildet werden.
Exabeam: "Using personal data (including images) to generate content involving minors may constitute a serious GDPR violation."
3. Content Moderation & Safety Rails
AI-Generated Content von realen Personen (ohne Consent) muss blockiert werden – via Content Moderation, Input Filtering, Output Filtering.
4. Transparency über Training Data
EU AI Act Template: "Providers must give an overview of the data used to train their models, including sources from which data was obtained."
Praktisch: "We trained on LAION-5B (includes scraped Internet-Images)" muss offengelegt werden – und bei Personal Data: Lawful Basis nachweisen.
Die Warnung
Exabeam: "GDPR is becoming a primary enforcement tool against harmful AI outputs. Organizations that use personal data (including images) to generate such content may constitute a serious GDPR violation."
Unternehmen, die generative AI deployen ohne:
- Lawful Basis für Training Data (insbesondere Biometric Data),
- Content Moderation (gegen non-consensual Deepfakes),
- Data Subject Rights Mechanisms (Right to Erasure im AI-Kontext),
...riskieren coordinated Regulatory Investigations wie X/Grok 2026.
InsidePrivacy: "The X/Grok investigation sets precedent. GDPR applies not just to data storage, but to AI outputs that harm individuals."
Die Frage ist nicht mehr "Ist unser AI-Model compliant?" – sondern "Ist unser AI-Model GDPR-compliant – inklusive Training Data, Biometric Processing, und Data Subject Rights?"