In einer Zeit, in der künstliche Intelligenz die Grenzen zwischen Schöpfung und Missbrauch neu verhandelt, hat ein US-Berufungsgericht in St. Louis dem Unternehmen xAI von Elon Musk recht gegeben: Minnesotas Gesetz gegen KI-generierte Nacktbilder — das erste seiner Art in den Vereinigten Staaten — darf vorerst nicht in Kraft treten. Das Gericht folgte dem Argument, dass das Verbot die verfassungsgeschützte Meinungsfreiheit verletze, und setzte damit einen Schutz außer Kraft, der explizit gegen die massenhafte Erzeugung von Kindesmissbrauchsmaterial durch KI-Systeme wie Grok gerichtet war. Was
Musks xAI stoppt Minnesota-Gesetz gegen KI-Nacktbilder vorerst
Das Gesetz sollte die Verbreitung von Material über sexuellen Kindesmissbrauch bekämpfen, das durch KI-Produkte wie Grok in großem Ausmaß generiert wird.
Sieg für Musk, Niederlage für den Opferschutz
Mark
Warum ist diese Entscheidung eines Berufungsgerichts so bedeutsam? Es geht doch nur um Minnesota.
Mimi
Weil Minnesota das erste Bundesstaat war, das so ein Gesetz überhaupt verabschiedet hat. Wenn xAI es hier blockiert, signalisiert das anderen Bundesstaaten, dass ähnliche Gesetze vor Gericht scheitern könnten.
Luke
Aber wir sollten präzise sein: Das Gericht hat das Gesetz nicht endgültig gekippt. Es hat es nur vorerst ausgesetzt, während der Fall weiterläuft. Das ist ein wichtiger Unterschied.
Mark
Und xAI argumentiert mit Meinungsfreiheit? Das klingt wie eine merkwürdige Verteidigung für ein Tool, das Nacktbilder von Kindern erzeugt.
Mimi
Genau. xAI sagt, dass das Verbot die verfassungsgeschützte Rede einschränkt. Das ist eine juristische Strategie, nicht unbedingt eine moralische Aussage.
Luke
Wobei xAI auch behauptet, dass Grok Schutzmaßnahmen hat. Das ist schwer zu überprüfen. Minnesota sagt, das System generiert Material »in erschütterndem Ausmaß«. Das sind zwei völlig unterschiedliche Darstellungen der gleichen Realität.
Mark
Was passiert jetzt in Europa?
Mimi
Dort bewegt sich mehr. Die EU, Irland, Frankreich, Großbritannien und Kanada untersuchen alle Grok. Frankreich hat sogar die Büros von X durchsucht.
Luke
Das ist wichtig zu sehen: Während die USA in einer Verfassungsfrage stecken, handeln andere Länder. Das könnte bedeuten, dass Grok in Europa stärker reguliert wird als in den USA.
O Pulso
- Ein US-Berufungsgericht setzt Minnesotas Pioniergesetz gegen KI-Nacktbilder auf Antrag von xAI außer Kraft — trotz einer vorherigen Ablehnung durch ein untergeordnetes Gericht.
- Minnesota hatte das Gesetz mit einem konkreten Notstand begründet: Grok Imagine erzeugt in erschütterndem Ausmaß Material, das sexuellen Kindesmissbrauch darstellt.
- xAI beruft sich auf die Meinungsfreiheit der US-Verfassung und behauptet, eigene Schutzmaßnahmen zu betreiben — und verklagt bereits Nutzer, die diese Sperren umgehen.
- Während die USA in einem Verfassungsstreit feststecken, haben EU, Irland, Frankreich, Großbritannien und Kanada bereits Untersuchungen oder Ermittlungen gegen Grok eingeleitet.
- Der Konflikt offenbart eine wachsende globale Spaltung: Meinungsfreiheit als Schutzschild für KI-Unternehmen auf der einen Seite, Opferschutz als dringende Pflicht auf der anderen.
In einer Zeit, in der künstliche Intelligenz die Grenzen zwischen Schöpfung und Missbrauch neu verhandelt, hat ein US-Berufungsgericht in St. Louis dem Unternehmen xAI von Elon Musk recht gegeben: Minnesotas Gesetz gegen KI-generierte Nacktbilder — das erste seiner Art in den Vereinigten Staaten — darf vorerst nicht in Kraft treten. Das Gericht folgte dem Argument, dass das Verbot die verfassungsgeschützte Meinungsfreiheit verletze, und setzte damit einen Schutz außer Kraft, der explizit gegen die massenhafte Erzeugung von Kindesmissbrauchsmaterial durch KI-Systeme wie Grok gerichtet war. Was in Amerika als Rechtsfrage verhandelt wird, behandeln Europa, Großbritannien und Kanada längst als Frage des Schutzes der Schwächsten.
Ein Berufungsgericht in St. Louis hat entschieden, dass Minnesotas Gesetz gegen KI-generierte Nacktbilder vorerst nicht gelten darf. xAI, das KI-Unternehmen von Elon Musk, hatte erfolgreich argumentiert, das Verbot verstoße gegen die verfassungsgeschützte Meinungsfreiheit. Damit wurde das erste Gesetz dieser Art in den USA blockiert — eines, das Webseitenbetreiber und Entwickler daran hindern sollte, Nutzern die Erstellung realistischer gefälschter Nacktbilder zu ermöglichen.
Minnesota hatte das Gesetz nicht abstrakt begründet: Musks KI-Tool Grok Imagine produziert in großem Ausmaß Material, das sexuellen Kindesmissbrauch darstellt. Ein untergeordnetes Gericht hatte xAIs Antrag noch im Vormonat abgelehnt — das Berufungsgericht überging diese Entscheidung dennoch. xAI behauptet, strenge Schutzmaßnahmen zu betreiben, und geht bereits juristisch gegen Nutzer vor, die diese Sperren umgehen.
Der Rechtsstreit in Minnesota ist jedoch nur ein Ausschnitt eines weltweiten Konflikts. Die Europäische Kommission, die irische Datenschutzkommission, die französische Polizei sowie Behörden in Großbritannien und Kanada untersuchen oder ermitteln bereits gegen Grok — wegen illegaler Inhalte, manipulierter Bilder und KI-erzeugter Deepfakes.
Die Entscheidung des Berufungsgerichts ist ein Sieg für xAI, aber ein Rückschlag für den Schutz von Opfern. In den USA scheint die Frage der Meinungsfreiheit schwerer zu wiegen als der Schutz vor KI-generiertem Missbrauchsmaterial — während andere Länder längst gehandelt haben.
Ein Berufungsgericht in St. Louis hat am Freitag entschieden, dass Minnesotas Gesetz gegen künstlich erzeugte Nacktbilder vorerst nicht in Kraft treten darf. Elon Musks KI-Unternehmen xAI hatte vor Gericht argumentiert, dass das Verbot gegen die in der US-Verfassung geschützte Meinungsfreiheit verstößt — und das Gericht gab dem Unternehmen recht. Damit wurde ein Gesetz blockiert, das als das erste seiner Art in den USA galt und Webseitenbetreiber sowie Softwareentwickler verbieten sollte, Nutzern die Erstellung realistischer gefälschter Nacktbilder zu ermöglichen.
Minnesota hatte das Gesetz mit einem konkreten Problem begründet: Musks KI-Tool Grok Imagine produziert in großem Ausmaß Material, das sexuellen Kindesmissbrauch darstellt. Ein untergeordnetes Gericht hatte xAIs Antrag noch im vergangenen Monat abgelehnt und das Gesetz nicht ausgesetzt. Doch das Berufungsgericht überging diese Entscheidung. xAI behauptet, sein Produkt verfüge über strenge Schutzmaßnahmen gegen die Erstellung solcher Bilder von realen Personen — und das Unternehmen hat bereits begonnen, Nutzer zu verklagen, die diese technischen Sperren umgehen.
Die Blockade in Minnesota ist jedoch nur ein Schauplatz in einem größeren Konflikt. Die Europäische Kommission kündigte im Januar eine Untersuchung gegen Grok an, weil das System illegale Inhalte, darunter manipulierte Bilder, verbreiten könnte. Die irische Datenschutzkommission leitete im Februar eine formelle Untersuchung ein. Wenige Tage später durchsuchte die französische Polizei die Büros von X im Rahmen einer separaten Ermittlung. Großbritannien und Kanada kündigten ebenfalls an, gegen sexuelle Bilder und Deepfakes vorzugehen, die mit Grok erzeugt wurden.
Die Entscheidung des Berufungsgerichts markiert einen Sieg für Musk und xAI, aber einen Rückschlag für den Opferschutz. Minnesota wollte mit seinem Gesetz gezielt verhindern, dass KI-Systeme realistische Bilder von identifizierbaren Personen mit gefälschten intimen Details erzeugen — ein Problem, das besonders bei Kindern zu schwerem Missbrauchsmaterial führt. Doch die Frage der Meinungsfreiheit, die xAI vor Gericht aufgeworfen hat, scheint in den USA stärker zu wiegen als der Schutz vor solchen Bildern. Während die Vereinigten Staaten sich in dieser rechtlichen Auseinandersetzung verfangen, bewegen sich mehrere Länder weltweit schneller voran und untersuchen oder ermitteln bereits gegen das System.
Citações Notáveis
Minnesota argumentierte, dass Grok in »erschütterndem Ausmaß« Material über sexuellen Kindesmissbrauch generiert— Bundesstaat Minnesota vor Gericht
xAI erklärte, das Produkt enthalte »strenge Schutzvorkehrungen« gegen die Erstellung solcher Bilder von echten Personen— xAI
Quer a matéria completa?
Leia o original em Der Spiegel ↗
World & Diplomacy