Bisher stand Elon Musks KI-Unternehmen xAI wegen der Erstellung sexualisierter Deepfakes massiv in der Kritik und im Visier der Behörden. Nun geht das Tech-Unternehmen erstmals in die Offensive und verklagt einen Nutzer, der den Chatbot Grok zur Generierung illegaler Inhalte missbraucht haben soll.
Der KI-Chatbot Grok, integriert in die Social-Media-Plattform X (ehemals Twitter), sorgt seit Monaten für heftige Schlagzeilen. Aufgrund unzureichender Sicherheitsfilter war es Nutzern immer wieder gelungen, täuschend echte, sexualisierte Deepfakes von realen Personen zu erstellen. Nachdem sogar Klagen von Opfern und Untersuchungen der EU-Kommission eingeleitet wurden, greift xAI nun zu drastischen rechtlichen Mitteln – allerdings gegen die eigenen Anwender.
Erster Zivilprozess: xAI fordert Schadensersatz von Nutzer
Wie aus aktuellen Gerichtsunterlagen hervorgeht, hat xAI eine Zivilklage gegen einen Mann aus dem US-Bundesstaat South Carolina eingereicht. Dem Beschuldigten wird vorgeworfen, die Sicherheitsbarrieren von Grok gezielt umgangen zu haben, um kinderpornografisches Material und sexuell explizite Deepfakes zu generieren und im Netz zu verbreiten.
Der betroffene Nutzer war bereits im Februar strafrechtlich festgenommen worden und muss sich in mehreren Punkten wegen des Besitzes und der Weitergabe missbräuchlicher Darstellungen Minderjähriger verantworten. Nun fordert xAI im Rahmen einer eigenen Zivilklage Schadensersatz und die Übernahme sämtlicher Rechtskosten. Die Begründung des Tech-Konzerns: Das Verhalten des Nutzers habe dem Unternehmen immense Reputationsschäden zugefügt und es rechtlichen Risiken ausgesetzt.
"Wer Grok missbraucht, trägt die Konsequenzen"
Mit diesem Schritt setzt xAI ein deutliches Signal an die Community. Elon Musk hatte bereits in der Vergangenheit gewarnt, dass Missbrauch der KI strafrechtlich genau so verfolgt werde wie die direkte Verbreitung illegalen Materials.
Der Fall markiert einen Präzedenzfall in der Tech-Branche: Erstmals versucht ein prominenter KI-Entwickler, die rechtliche und finanzielle Verantwortung für generierte Deepfakes komplett auf den Endnutzer abzuwälzen. Ob diese Taktik ausreicht, um den regulatorischen Druck von Regierungen und Opferschutzverbänden zu nehmen, bleibt abzuwarten. Klar ist jedoch: Für die Nutzer von KI-Bildgeneratoren weht ab sofort ein deutlich schärferer Wind.
Patrick Graber
