Ein Bundesrichter hat Minnesotas Verbot von KI-Tools bestätigt, die Fotos echter Menschen in Nacktbilder und Medien umwandeln können, und damit ein Antrag von Elon Musks xAI abgelehnt, das Gesetz auszusetzen, während die Klage des Unternehmens wegen der Meinungsfreiheit weiterläuft. Die Entscheidung ermöglicht es den Aufsichtsbehörden, sofort mit Geldstrafen von bis zu 500.000 Dollar pro Bild zu beginnen.
US-Bezirksrichter Donovan Frank lehnte den Antrag von xAI auf eine einstweilige Verfügung ab, eine Anordnung, die das Gesetz bis zum Ende des Rechtsstreits ausgesetzt hätte. Richter Donovan berücksichtigte das, was er als „Abwägung der Schäden“ bezeichnete, und kam zu dem Schluss, dass „das öffentliche Interesse deutlich zugunsten des Staates ausschlägt“, so das von CBS Minnesota zitierte Memorandum.
Der Richter beschrieb es als „ein zivilrechtliches Gesetz, das darauf abzielt, die Öffentlichkeit vor dem unbestrittenen Schaden zu schützen, der aus der KI-Nudifizierungstechnologie entsteht“, und sagte, das Gesetz sei „demokratisch und nahezu einstimmig“ verabschiedet worden. Er räumte offen ein, dass die zugrunde liegenden Fragen der First Amendment jedoch weiterhin komplex seien, weil es um den Kontext einer neuen Technologie gehe, und er glaube, dass der Fall im weiteren Verlauf geklärt werde. Vorerst bleibt das Verbot jedoch bestehen.
Kurzfristige Einreichung schwächt xAIs Fall
Minnesotas Gesetzgeber hat den Gesetzentwurf in diesem Frühjahr verabschiedet, und der Gouverneur unterzeichnete ihn. xAI reichte jedoch erst am 27. Juli Klage ein, also etwa drei Monate später und nur wenige Tage vor dem geplanten Inkrafttreten am 1. August. Das KI-Unternehmen beantragte am 29. Juli eine einstweilige Verfügung, die Richter Frank am 31. Juli ablehnte.
Diese Verzögerung wurde noch zu einem weiteren Beleg gegen xAI. „Wenn xAI tatsächlich einen irreparablen Schaden befürchtet hätte, besteht für das Gericht kein Zweifel daran, dass das Unternehmen schneller gehandelt hätte, um diese Klage einzureichen und einstweiligen Rechtsschutz zu beantragen“, schrieb Frank.
Mit anderen Worten: Ein Unternehmen, das auf eine Katastrophe zusteuert, wartet nicht bis kurz vor Beginn der Durchsetzung, um ein Gericht um Hilfe zu bitten.
Umfang des Gesetzes und die Kosten
Das Gesetz, bekannt als HF 1606, ist das erste seiner Art im ganzen Land. Es verbietet einem Anbieter, Nutzern das Erstellen realistischer Bilder zu erlauben, die intime Körperteile hinzufügen, die auf einem ursprünglichen Foto einer identifizierbaren Person nicht vorhanden sind, und verbietet außerdem, ein solches Bild im Namen eines Nutzers zu erzeugen.
Jeder Verstoß zieht eine zivilrechtliche Strafe von bis zu 500.000 Dollar nach sich, und die in diesen Bildern dargestellten Personen können ihre individuellen Schadensersatzansprüche geltend machen.
Der bundesweite Take It Down Act und ein texanischer Ansatz für Deepfakes aus dem Jahr 2025 hängen alle davon ab, ob der Hersteller wusste, dass das Bild ohne Einwilligung erstellt worden war. Minnesota hat diese Voraussetzung vollständig gestrichen, sodass ein Anbieter auch dann haftbar gemacht werden kann, wenn er nicht wusste, dass ein Nacktbild erstellt wurde.
Genau gegen diesen Teil des Gesetzes richtet sich xAI. Der Gesetzentwurf wurde im Repräsentantenhaus mit 132 zu 1 und im Senat mit 65 zu 0 verabschiedet, nachdem Berichte über einen Mann aufgetaucht waren, der Social-Media-Fotos verwendete, um sexuelle Bilder von mehr als 80 Frauen aus seinem Umfeld zu fälschen.
Das Ausmaß hinter Grok Imagine
Generalstaatsanwalt Keith Ellison, der das unterzeichnete Gesetz verteidigte, erklärte, die Entscheidung sei ein Sieg für die Einwohner Minnesotas. „Ich bin äußerst stolz darauf, dieses Gesetz zu verteidigen, und damit auch die Würde der Menschen in Minnesota“, sagte er und fügte hinzu, dass das Gesetz weiterhin Produkte wie xAIs Grok Imagine daran hindere, sexualisierte Bilder zu erzeugen.
Laut einem im Urteil zitierten Bericht erzeugte Grok in den 11 Tagen nach dem Start einer neuen Bildbearbeitungsfunktion rund 3 Millionen sexualisierte Bilder, darunter etwa 23.000, die offenbar Kinder darstellen sollten. Cryptopolitan hatte zuvor berichtet, dass xAI zu seiner Verteidigung angab, in diesem Jahr 52.222 Konten gesperrt und 73.604 Meldungen an das National Center for Missing and Exploited Children eingereicht zu haben.
xAIs Anwälte haben nun angekündigt, dass sie den 8th Circuit Court of Appeals anrufen werden, um die Ablehnung der einstweiligen Verfügung überprüfen zu lassen. In früheren Argumenten schlug das Unternehmen vor, Funktionen für Nutzer in Minnesota zu deaktivieren, statt Geldstrafen zu riskieren.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust bekommen? Schließ dich ihnen an.