xAI har stämt Minnesotas justitieminister Keith Ellison i ett försök att stoppa en ny lag som riktar sig mot AI-tjänster som kan skapa realistiska nakenbilder av identifierbara personer.
Lagen, HF 1606, förbjuder företag att låta användare använda deras tjänster för att ”nudifiera” bilder eller videor. Den ger Minnesota möjlighet att kräva civilrättsliga böter på upp till 500 000 dollar per överträdelse och låter personer som avbildats väcka talan mot företaget bakom verktyget.
xAI säger att bolaget stöder målet att stoppa spridning av AI-genererade nakenbilder utan samtycke. I stämningsansökan hävdar företaget däremot att lagen är för bred och även kan omfatta lagliga, samtyckta eller icke-sexuella bilder.
Enligt xAI saknar lagen dessutom krav på att företaget ska ha känt till eller avsett överträdelsen. Bolaget menar därför att en AI-leverantör kan hållas ansvarig även när användaren har kringgått tekniska skydd och brutit mot tjänstens regler.
Definitionen kritiseras
En central del av tvisten gäller hur Minnesota definierar en ”intim kroppsdel”. Lagen hänvisar till en befintlig definition som bland annat omfattar bröst, skinkor och insidan av låret.
xAI hävdar att detta kan göra att lagen även träffar exempelvis badkläder, bar överkropp och andra bilder som normalt inte betraktas som nakenbilder. Företaget anser därför att lagen begränsar skyddat bildskapande och strider mot USA:s grundlagsskydd för yttrandefrihet.
Minnesotas lag är planerad att börja gälla den 1 augusti 2026. xAI begär att domstolen ska förklara lagen grundlagsstridig och stoppa delstaten från att tillämpa den mot företaget.
Tvisten kan bli viktig för hur långt amerikanska delstater får gå när de försöker hålla AI-företag ansvariga för bilder som skapas av deras användare.
