Ofcom wszczyna formalne dochodzenie wobec X w sprawie narzędzia AI Grok

Brytyjski regulator mediów Ofcom rozpoczął formalne postępowanie wobec platformy X (dawniej Twitter), należącej do Elona Muska, w związku z działaniem jej narzędzia sztucznej inteligencji Grok. Dochodzenie dotyczy wykorzystywania AI do tworzenia seksualizowanych treści, w tym wizerunków kobiet i dzieci.

Ofcom poinformował, że już 5 stycznia skontaktował się z firmą X, wyznaczając termin do 9 stycznia na przedstawienie informacji o tym, jakie działania zostały podjęte w celu ochrony użytkowników w Wielkiej Brytanii. Odpowiedź została złożona w terminie, po czym regulator przeprowadził – jak podkreśla – „przyspieszoną analizę dostępnych dowodów”.

Na tej podstawie zapadła decyzja o wszczęciu formalnego dochodzenia, które ma ustalić, czy X naruszyło swoje obowiązki wynikające z brytyjskiej Ustawy o Bezpieczeństwie w Sieci (Online Safety Act).

Zakres śledztwa

Ofcom zbada m.in.:

• ryzyko, że użytkownicy w Wielkiej Brytanii mają dostęp do treści nielegalnych,

• czy X podjęło odpowiednie kroki, by zapobiegać rozpowszechnianiu tzw. „priorytetowych treści nielegalnych”, takich jak intymne materiały publikowane bez zgody,

• czy nielegalne treści są usuwane wystarczająco szybko po zgłoszeniu,

• czy Grok narusza przepisy dotyczące ochrony prywatności,

• zagrożenia, jakie narzędzie AI może stanowić dla dzieci,

• skuteczność mechanizmów weryfikacji wieku chroniących nieletnich przed pornografią.

  
  

Jeżeli regulator uzna, że doszło do naruszenia prawa, może nałożyć na firmę obowiązek wprowadzenia konkretnych zmian lub usunięcia skutków naruszeń. Ofcom ma również prawo nałożyć kary finansowe sięgające 18 milionów funtów lub 10 proc. globalnych przychodów firmy – w zależności od tego, która kwota jest wyższa.

W najbardziej skrajnych przypadkach, przy długotrwałym braku współpracy, Ofcom może wystąpić do sądu o nakaz:

• wycofania się reklamodawców lub operatorów płatności,

• a nawet zablokowania dostępu do platformy X na terenie Wielkiej Brytanii.

Regulator zaznacza jednak, że taki krok byłby podejmowany wyłącznie wtedy, gdy byłby „odpowiedni i proporcjonalny” do skali zagrożenia.

Ministrowie brytyjskiego rządu już wcześniej sygnalizowali, że poprą Ofcom, jeśli uzna on, że blokada X jest konieczna. Z kolei Partia Konserwatywna sprzeciwia się całkowitemu zakazowi działania platformy, uznając go za środek zbyt daleko idący.

Rzecznik Ofcomu podkreślił, że doniesienia o wykorzystywaniu Groka do tworzenia nielegalnych, niekonsensualnych treści intymnych oraz materiałów seksualnych z udziałem dzieci są „głęboko niepokojące”.

Platformy muszą chronić użytkowników w Wielkiej Brytanii przed treściami nielegalnymi. Nie zawahamy się podejmować działań, zwłaszcza tam, gdzie zagrożone jest bezpieczeństwo dzieci – oświadczył regulator, dodając, że sprawa ma „najwyższy priorytet”.

źródło SKY News