Anja Benewitz
Seit den letzten zwei Wochen ist X überflutet von mit KI manipulierten Nacktbildern, die vom Grok KI-Chatbot erstellt wurden. Eine alarmierende Anzahl von Frauen ist von den nicht einvernehmlichen Nacktbildern betroffen, darunter prominente Models und Schauspielerinnen, sowie Nachrichtenfiguren, Opfer von Verbrechen und sogar Weltführer. Über diese Thematik berichtet heute die Webseite mitrecht.ratgeber.de.
Eine Forschungsarbeit vom 31. Dezember von Copyleaks schätzte, dass etwa ein Bild pro Minute gepostet wurde, doch spätere Tests fanden weitaus mehr. Eine Stichprobe, die am 5. und 6. Januar gesammelt wurde, zeigte 6.700 Bilder pro Stunde über den 24-Stunden-Zeitraum.
Doch während öffentliche Figuren weltweit die Entscheidung verurteilten, das Modell ohne Schutzmechanismen zu veröffentlichen, gibt es kaum klare Mechanismen für Regulierungsbehörden, die versuchen, das neue Bildmanipulationssystem von Elon Musk einzudämmen. Das Ergebnis ist eine schmerzhafte Lektion in den Grenzen der Technologie-Regulierung und eine zukunftsweisende Herausforderung für Regulierungsbehörden, die einen bleibenden Eindruck hinterlassen möchten.
Erwartungsgemäß kam die aggressivste Reaktion von der Europäischen Kommission, die am Donnerstag XAI anordnete, alle Dokumente im Zusammenhang mit dem Grok-Chatbot aufzubewahren. Dieser Schritt bedeutet nicht unbedingt, dass die Kommission eine neue Untersuchung eingeleitet hat, ist jedoch ein häufiger Vorläufer solcher Maßnahmen. Besonders besorgniserregend ist dies aufgrund jüngster Berichterstattung von CNN, die darauf hindeutet, dass Elon Musk persönlich interveniert haben könnte, um zu verhindern, dass Schutzmaßnahmen für die von Grok generierten Bilder eingeführt werden.
Es ist unklar, ob X irgendwelche technischen Änderungen am Grok-Modell vorgenommen hat, obwohl der öffentliche Medientab des Grok-Accounts auf X entfernt wurde. In einer Erklärung verurteilte das Unternehmen ausdrücklich die Verwendung von KI-Werkzeugen zur Erstellung von kinderpornografischen Inhalten. „Jeder, der Grok nutzt oder auffordert, illegalen Inhalt zu erstellen, wird die gleichen Konsequenzen wie beim Hochladen illegaler Inhalte erfahren“, postete das X Safety-Konto am 3. Januar, was einen vorherigen Tweet von Elon Musk widerspiegelt.
In der Zwischenzeit haben Regulierungsbehörden weltweit harte Warnungen ausgesprochen. Das britische Ofcom gab am Montag eine Erklärung ab und erklärte, dass es in Kontakt mit XAI stehe und „eine schnelle Bewertung durchführen werde, um festzustellen, ob es potenzielle Compliance-Probleme gibt, die eine Untersuchung rechtfertigen“. In einem Radiointerview am Donnerstag bezeichnete der britische Premierminister Keir Starmer das Phänomen als „eine Schande“ und „widerlich“ und sagte: „Ofcom hat unsere volle Unterstützung, um in Bezug auf diese Angelegenheit Maßnahmen zu ergreifen.“
In einem LinkedIn-Post erklärte die australische eSafety-Kommissarin Julie Inman-Grant, dass ihr Büro seit Ende 2025 eine Verdopplung der Beschwerden im Zusammenhang mit Grok erhalten habe. Inman-Grant ging jedoch nicht so weit, gegen XAI vorzugehen, und sagte lediglich: „Wir werden eine Reihe von Regulierungsinstrumenten nutzen, die uns zur Verfügung stehen, um zu untersuchen und entsprechende Maßnahmen zu ergreifen.“
Der größte Markt, der mit Maßnahmen droht, ist Indien, wo Grok Gegenstand einer offiziellen Beschwerde eines Parlamentsmitglieds war. Im Januar ordnete der indische Kommunikationsregulator MeitY an, dass X das Problem adressiert und innerhalb von 72 Stunden einen „Bericht über die ergriffenen Maßnahmen“ einreicht – eine Frist, die später um 48 Stunden verlängert wurde. Obwohl ein Bericht am 7. Januar beim Regulator eingereicht wurde, ist unklar, ob MeitY mit der Antwort zufrieden sein wird. Falls nicht, könnte X seinen Safe-Harbor-Status in Indien verlieren, was eine erhebliche Einschränkung seiner Fähigkeit darstellt, im Land zu operieren.