Organizacje apelują do Apple i Google o usunięcie X i Groka ze sklepów z aplikacjami

Koalicja blisko 30 organizacji rzeczniczych wezwała Apple i Google do usunięcia platformy społecznościowej X oraz aplikacji AI Grok ze swoich sklepów z aplikacjami. Powodem apelu jest umożliwienie przez Groka generowania seksualizowanych wizerunków kobiet oraz nieletnich, co – zdaniem organizacji – stanowi rażące naruszenie zasad bezpieczeństwa i polityk obu firm technologicznych.

Grupy, które koncentrują się na ochronie dzieci, prawach kobiet i prywatności, skierowały w środę listy do dyrektora generalnego Apple, Tima Cooka, oraz prezesa Google, Sundara Pichaia. W pismach stwierdzono, że treści generowane przez Groka łamią regulaminy App Store i Google Play.

– „Żądamy, aby kierownictwo Google pilnie usunęło Groka i X ze sklepu Play, aby zapobiec dalszym nadużyciom i działalności przestępczej” – napisały organizacje, używając identycznego sformułowania w liście do Apple.

Apple i Google nie odniosły się dotąd do próśb o komentarz.

Właściciel X i xAI, Elon Musk, napisał w środę w mediach społecznościowych, że „nie jest świadomy żadnych nagich wizerunków nieletnich wygenerowanych przez Groka – dosłownie zero”. Twierdzi również, że chatbot odmawia realizacji poleceń prowadzących do tworzenia nielegalnych obrazów.

– „Zdarzają się sytuacje, w których wrogie manipulowanie promptami Groka prowadzi do nieoczekiwanych rezultatów. Jeśli tak się stanie, natychmiast naprawiamy błąd” – dodał Musk.

Krytyka Groka nasiliła się na początku stycznia, gdy aplikacja generatywnej AI umożliwiła użytkownikom tworzenie obrazów nieletnich w skąpych strojach. W odpowiedzi na jeden z promptów sam Grok przyznał, że doszło do luk w jego zabezpieczeniach.

Firma Copyleaks, zajmująca się wykrywaniem plagiatów i treści generowanych przez AI, poinformowała CBS News, że na początku miesiąca wykryła tysiące seksualnie jednoznacznych obrazów stworzonych przez Groka. W grudniowej analizie oszacowano, że chatbot generował „około jednego niekonsensualnego seksualizowanego obrazu na minutę”.

Zaniepokojenie wyraziła także Internet Watch Foundation (IWF), organizacja walcząca z seksualnym wykorzystywaniem dzieci w sieci.

– „Jesteśmy niezwykle zaniepokojeni łatwością i szybkością, z jaką ludzie mogą generować fotorealistyczne materiały przedstawiające seksualne wykorzystywanie dzieci” – powiedziała Ngaire Alexander, szefowa infolinii IWF. – „Narzędzia takie jak Grok grożą wprowadzeniem seksualnych obrazów AI z udziałem dzieci do głównego nurtu”.

W odpowiedzi na krytykę Grok poinformował w zeszłym tygodniu na X, że dostęp do narzędzia generowania obrazów został ograniczony wyłącznie do płatnych subskrybentów.

Sprawa Groka przyciąga również uwagę regulatorów i polityków. W środę prokurator generalny Kalifornii Rob Bonta ogłosił wszczęcie dochodzenia w sprawie seksualnie jednoznacznych treści generowanych przy użyciu Groka.

– „Lawina doniesień opisujących niekonsensualne, seksualnie jednoznaczne materiały, które xAI wygenerowało i opublikowało w ostatnich tygodniach, jest szokująca” – powiedział Bonta. – „Te treści, przedstawiające kobiety i dzieci w nagich oraz jednoznacznie seksualnych sytuacjach, są wykorzystywane do nękania ludzi w internecie. Wzywam xAI do natychmiastowych działań, aby to się nie powtórzyło”.

Również w Wielkiej Brytanii premier Keir Starmer zasugerował możliwość zakazu działania platformy X w kraju z powodu generowania przez Groka seksualizowanych obrazów bez zgody przedstawionych osób. Z kolei Komisja Europejska – jak informuje Reuters – monitoruje działania X mające na celu zapobieganie tworzeniu nieodpowiednich treści z udziałem kobiet i dzieci.

Narastająca presja ze strony organizacji społecznych, rządów i regulatorów sprawia, że przyszłość Groka i jego dostępność w największych sklepach z aplikacjami stoi pod coraz większym znakiem zapytania.

źródło CBS News