Grok az év elején megvizsgálta, hogy óránként több ezer „levetkőző” mélyhamisítást generált
Újrafutóz: Az xAI második kísérlete kudarcot vallott, hogy megsemmisítse azt a minnesotai törvényt, amely betiltja az AI által generált meztelenítő alkalmazásokat az államban. Donovan Frank amerikai körzeti bíró elutasította a cég azon indítványát, hogy blokkolja az első a nemzetben szabályt, mivel az xAI nem bizonyította, hogy helyrehozhatatlan kárt szenvedne, amíg jogi kifogása folytatódik.
Augusztus 1-jén Minnesota betiltotta azokat az alkalmazásokat és webhelyeket, amelyek lehetővé teszik a felhasználóknak, hogy nem beleegyezésen alapuló szexualizált képeket hozzanak létre. A szolgáltatások mögött álló cégeket 500 000 dolláros pénzbírsággal sújthatják minden olyan jogellenes hozzáférésért vagy olyan képek letöltéséért, amelyeket úgy módosítottak, hogy valaki meztelennek vagy még rosszabbnak tűnjön, ami nagyon gyorsan elérheti a százmilliókat vagy akár milliárdokat is.
Az xAI ettől a büntetéstől tartva júliusban pert indított az állam ellen. Musk cége azt írta, hogy a törvény a szólásszabadság és a vizuális kifejezési eszközök túlzott, tartalmi tilalma, „ügyetlen kísérlet a meztelenítés tiltására”. Megjegyezte, hogy egy olyan vállalkozást, amelynek felhasználói 100 000 ilyen képet készítettek, 50 milliárd dollárt kell fizetni.
Frank elutasította az xAI július végi indítványát, amely megakadályozta volna a törvény hatálybalépését. Pénteken a bíró elutasította a második beadványt, és úgy ítélte meg, hogy az xAI nem bizonyította, hogy kárt szenvedne, miközben folytatja a keresetét.
„Mivel az xAI nem igazolt helyrehozhatatlan károkat, és a károk mérlege meredeken az állam javára billen, az xAI előzetes tiltó határozatára irányuló indítványát elutasítják” – írta Frank.
Az xAI szerint a törvény sérti az első kiegészítést, és félmeztelen férfiak mesterséges intelligencia-generációit, fürdőruhás ártalmatlan mesterséges intelligenciagenerációkat és szatirikus képeket mélyhamisításnak számíthat. Példaként azt állította, hogy egy mesterséges intelligencia által generált kép, amelyet Illinois kormányzójáról, JB Pritzkerről és New Jersey volt kormányzójáról, Chris Christie-ről szumóbirkózóként ábrázol, szabálysértésnek tekinthető.
Tekintettel az xAI történetére, amikor ilyesmiről van szó, a per nem nagy sokk. A Grok csevegőbotja az év elején rengeteg címlapra került az óránként generált több ezer „vetkőző” mélyhamisítványról, beleértve a kiskorúak képeit is.
Az xAI azt is elmondja, hogy megbünteti azokat a felhasználókat, akik a Grokot használják gyermekkizsákmányoló képek létrehozására. Azt állítja, hogy 2026-ban 52 222 fiókot függesztett fel, és 73 604 bejelentést tett a National Center for Missing & Exploited Children (NCMEC) felé 2026-ban, ami legalább 244 letartóztatást eredményezett.
Az xAI hangsúlyozza, hogy szigorúan megtiltja felhasználóinak, hogy meztelen vagy szexualizált képeket készítsenek emberekről a beleegyezésük nélkül. De tagadhatatlan, hogy pert indítani egy állam ellen egy mélyhamisítás elleni törvény miatt nem jó megjelenés.