Kalifornia wszczyna śledztwo w sprawie seksualizowanych deepfake’ów generowanych przez AI Muska

Prokurator generalny Kalifornii Rob Bonta wszczął dochodzenie dotyczące rozpowszechniania seksualizowanych deepfake’ów tworzonych przez model sztucznej inteligencji Grok, rozwijany przez firmę xAI należącą do Elona Muska. W oświadczeniu ogłaszającym śledztwo Bonta stwierdził, że „lawina doniesień opisujących niekonsensualne, seksualnie jednoznaczne materiały, które xAI wygenerowało i opublikowało w ostatnich tygodniach w internecie, jest szokująca”.

Według prokuratora materiały te przedstawiają kobiety i dzieci w nagich oraz jednoznacznie seksualnych sytuacjach i są wykorzystywane do nękania ludzi w sieci. Bonta wezwał xAI do podjęcia natychmiastowych działań w celu powstrzymania tego zjawiska.

Firma xAI wcześniej podkreślała, że „każdy, kto używa Groka lub nakłania go do tworzenia nielegalnych treści, poniesie takie same konsekwencje, jak w przypadku samodzielnego publikowania nielegalnych materiałów”. Sam Elon Musk napisał w środę na platformie X, że „nie jest świadomy żadnych nagich wizerunków nieletnich wygenerowanych przez Groka – dosłownie zero”. Dodał również, że Grok „nie generuje obrazów spontanicznie”, a jedynie w odpowiedzi na zapytania użytkowników.

Musk, znany republikański darczyńca, przekonuje ponadto, że krytyka wobec X ma charakter polityczny, a kontrowersja wokół Groka jest wykorzystywana jako „pretekst do cenzury”.

Do sprawy odniósł się również gubernator Kalifornii Gavin Newsom, który napisał na X, że decyzja xAI o „stworzeniu i hostowaniu wylęgarni dla drapieżników jest odrażająca”. BBC poinformowało, że zwróciło się do xAI o komentarz.

Śledztwo w Kalifornii toczy się w czasie rosnącej presji międzynarodowej. Brytyjski premier Sir Keir Starmer ostrzegł, że jego rząd rozważa działania przeciwko platformie X. W Wielkiej Brytanii przygotowywane są przepisy, które uczynią nielegalnym tworzenie niekonsensualnych intymnych wizerunków, a regulator Ofcom prowadzi własne postępowanie wobec Groka. W przypadku naruszenia prawa może on nałożyć kary sięgające 10% globalnych przychodów firmy lub 18 mln funtów – w zależności od tego, która kwota będzie wyższa.

Kontrowersje rozpalają również debatę w USA na temat odpowiedzialności firm technologicznych za treści generowane przez sztuczną inteligencję. Artykuł 230 ustawy Communications Decency Act z 1996 roku zapewnia platformom internetowym ochronę prawną w odniesieniu do treści tworzonych przez użytkowników. Jednak prof. James Grimmelmann z Cornell University podkreśla, że przepis ten „chroni jedynie przed odpowiedzialnością za treści osób trzecich, a nie za treści tworzone przez same platformy”.

Podobnego zdania jest senator Ron Wyden z Oregonu, współautor Sekcji 230, który uważa, że przepis ten nie obejmuje obrazów generowanych przez AI, a firmy powinny ponosić pełną odpowiedzialność za takie materiały. Wyden był jednym z trzech demokratycznych senatorów, którzy w ubiegłym tygodniu wezwali Apple i Google do usunięcia X i Groka ze swoich sklepów z aplikacjami. Wkrótce potem X ograniczył narzędzie do generowania obrazów wyłącznie dla płatnych subskrybentów, choć aplikacja nadal pozostaje dostępna w App Store i Google Play.

Sprawa Groka staje się jednym z najpoważniejszych testów dla regulacji sztucznej inteligencji i odpowiedzialności platform technologicznych w Stanach Zjednoczonych i poza nimi.

źródło BBC News