Kurz vor Inkrafttreten eines neuen Gesetzes in Minnesota kündigt xAI an, die Bildbearbeitungsfunktionen seines KI-Werkzeugs Grok Imagine einschränken zu müssen. Das Unternehmen – nach der Fusion von Elon Musks Firmen offiziell SpaceXAI genannt – hat Klage gegen den Generalstaatsanwalt von Minnesota, Keith Ellison, eingereicht. Es wendet sich gegen ein Gesetz, das Apps und Websites verbietet, mit denen sich ohne Einwilligung intime Bilder realer Personen erzeugen lassen. xAI sieht darin einen Verstoß gegen den ersten Verfassungszusatz und spricht von einem „überbreiten, inhaltsbasierten Verbot“. Das Gesetz soll am 1. August in Kraft treten.
- xAI klagt gegen Minnesotas neues Gesetz gegen sogenannte „Nudify“-Apps.
- Das Gesetz erlaubt Strafen von bis zu 500.000 US-Dollar (rund 460.000 Euro) pro Verstoß.
- Das Unternehmen erklärt, es müsse Grok Imagine ab dem 1. August einschränken.
Das von Gouverneur Tim Walz im Mai unterzeichnete Gesetz gilt als das erste seiner Art in den USA. Es untersagt Betreibern, Nutzern den Zugang zu „Nudification“-Software zu ermöglichen, und schafft zugleich eine zivilrechtliche Klagemöglichkeit für Betroffene. Darüber hinaus kann der Generalstaatsanwalt Strafen von bis zu 500.000 US-Dollar (etwa 460.000 Euro) je Verstoß verlangen. Ausgenommen sind laut den vorliegenden Berichten Werkzeuge, die eigenes technisches Können der Nutzer voraussetzen – klassische Bildmanipulation etwa mit gewöhnlicher Bearbeitungssoftware fällt damit nicht unter das Verbot.
xAI sieht geschützte Meinungsäußerung bedroht
In seiner Klageschrift betont das Unternehmen, es bestreite nicht das Interesse des Staates, die Verbreitung künstlich erzeugter Nacktbilder realer Menschen ohne deren Zustimmung zu verhindern. Das Gesetz gehe jedoch weit darüber hinaus und setze „eine breite Palette geschützter Äußerungen“ einer zivilrechtlichen Haftung und staatlichen Sanktionen aus. xAI verweist darauf, dass eine Haftung selbst dann greife, wenn technische Schutzmaßnahmen größtenteils funktionierten und Nutzer diese erst umgehen müssten. Das Unternehmen fordert das Gericht auf, das Gesetz für verfassungswidrig zu erklären und seine Durchsetzung zu untersagen.
Zur Untermauerung seiner Position führt xAI an, es gehe gegen Nutzer vor, die seine Sperren austricksen: So habe es einen Nutzer aus South Carolina verklagt, der mit Grok nicht einvernehmliche intime Bilder von Erwachsenen und Minderjährigen erzeugt haben soll.
Wie es zu dem Streit kam
Hintergrund ist ein Skandal vom Jahresbeginn: Grok erzeugte in großem Umfang sexualisierte Deepfakes, darunter auch Darstellungen von Kindern. Das Center for Countering Digital Hate untersuchte einen Zeitraum von elf Tagen zwischen dem 29. Dezember und dem 8. Januar und stellte fest, dass Grok rund drei Millionen sexualisierte Bilder erzeugt hatte. Etwa 23.000 davon zeigten Kinder – laut dem Bericht ein sexualisiertes Kinderbild alle 41 Sekunden.
Der Fall zog international Aufmerksamkeit auf sich. Mehrere Behörden und Regulierer leiteten Untersuchungen ein, darunter die Europäische Kommission, die britische Ofcom, die irische Datenschutzkommission sowie Stellen in Kalifornien. Auch aus Frankreich, Indien und Malaysia kam Kritik von Regierungsvertretern.
Auffällig ist, dass xAI erst wenige Tage vor Inkrafttreten des Gesetzes klagte – und das, obwohl es bereits im Mai unterzeichnet wurde.
Deutliche Worte aus Minnesota
Generalstaatsanwalt Ellison reagierte auf der Plattform X. Es gebe viele lohnende Debatten über Künstliche Intelligenz, schrieb er, doch diese gehöre nicht dazu: „KI-Nudification raubt der Zielperson ihre Würde und kann ihr auf vielen Ebenen immensen Schaden zufügen.“ Gouverneur Walz kommentierte knapp: „See you in court, creep“ – sinngemäß: „Wir sehen uns vor Gericht, du Widerling.“
Was der Fall bedeutet
Für Nutzer in Minnesota könnte das konkret heißen, dass bestimmte Bildbearbeitungsfunktionen von Grok Imagine ab dem 1. August eingeschränkt werden – xAI selbst spricht davon, keine „praktische Wahl“ zu haben. Rechtlich beruft sich das Unternehmen darauf, dass Gesetze, die Äußerungen inhaltlich einschränken, in den USA besonders eng gefasst sein müssen. xAI argumentiert, dass bestehende Regelungen – etwa der TAKE IT DOWN Act – die Verbreitung solcher Bilder bereits verfassungskonform verhinderten. Genau daran entzündet sich der Kern des Streits: ob geltendes Recht überhaupt ausreicht, um die massenhafte Erzeugung nicht einvernehmlicher Bilder zu stoppen.
Wo verläuft für Sie die Grenze zwischen Meinungsfreiheit und dem Schutz vor KI-generierten Deepfakes? Diskutieren Sie mit.
