Klage wirft xAI Training mit Missbrauchsbildern vor

San Francisco – 28.08.2026: Eine Überlebende sexueller Gewalt gegen Kinder hat vor einem Bundesgericht in Kalifornien Klage gegen das KI-Unternehmen xAI eingereicht. Sie wirft dem Betreiber des Chatbots Grok vor, Bilder ihrer früheren Ausbeutung zum Training des Systems verwendet zu haben. Grok habe zudem neue Darstellungen erzeugt. Die Anschuldigungen sind bislang nicht gerichtlich festgestellt.

Nach der Klageschrift soll die Frau Inhalte, die sie als Kind zeigten, wiederholt im Umfeld von Grok gefunden haben. Ihre Anwälte führen aus, dass öffentlich auf der Plattform X eingestellte Bilder und Ausgaben des Systems gemäß den Nutzungsbedingungen in die Weiterentwicklung des Modells einfließen könnten. So entstehe aus der wiederholten Verbreitung ein dauerhaftes Risiko für die Betroffene.

Die am 27. August 2026 eingereichte Sammelklage verlangt Schadensersatz und gerichtliche Anordnungen gegen xAI. Das Unternehmen soll nach dem Willen der Klägerin verhindern, dass solche Inhalte erzeugt, gespeichert oder weitergegeben werden. Bereits vorhandenes Material solle gelöscht werden. Ob das Gericht das Verfahren als Sammelklage zulässt und wie xAI auf die Anschuldigungen reagiert, ist offen. Eine Entscheidung in der Sache liegt nicht vor.

Der Vorgang folgt auf weitere Verfahren in den Vereinigten Staaten. Im März hatten drei Mädchen beziehungsweise junge Frauen xAI verklagt. Sie warfen dem Unternehmen vor, dessen Bildtechnik habe aus Fotos sexualisierte Fälschungen von ihnen erzeugt. Nach Darstellung der damaligen Klägerinnen wurden diese Bilder anschließend im Internet verbreitet. Auch diese Anschuldigungen werden noch gerichtlich geprüft.

In Frankreich beschäftigen Vorwürfe rund um Grok bereits Ermittler und Aufsichtsbehörden. Die Pariser Staatsanwaltschaft eröffnete im Mai eine gerichtliche Untersuchung gegen X. Genannt wurden unter anderem mögliche Straftaten im Zusammenhang mit Darstellungen sexuellen Missbrauchs Minderjähriger. Das französische Verfahren ist von der nun in Kalifornien eingereichten Klage getrennt.

Die französische Medienaufsicht Arcom hatte Betroffene nicht einvernehmlich verbreiteter intimer KI-Bilder sowie Zeugen entsprechender Darstellungen Minderjähriger aufgefordert, Inhalte zunächst bei X zu melden. Reagiere die Plattform nicht, sollten Belege an die Behörde übermittelt werden. Auch die Europäische Kommission untersucht die Grok-Funktion auf X nach dem Gesetz über digitale Dienste.

Nach Angaben ihrer Rechtsvertretung will die Klägerin vor allem verhindern, dass die Bilder weiterhin als Trainingsmaterial oder in neuen Ausgaben des Systems auftauchen. Ihr Verfahren richtet sich gegen xAI und nicht gegen einen namentlich genannten mutmaßlichen ursprünglichen Täter. Neben Schadensersatz fordert sie deshalb technische Schutzvorkehrungen und die Löschung bereits vorhandener Inhalte.

Quellen

• Franceinfo
• Ars Technica
• Girard Sharp Rechtsanwaltskanzlei
• Pariser Staatsanwaltschaft
• Arcom