Grok pod ostrzałem. Malezja i Indonezja jako pierwsze na świecie blokują narzędzie Muska po fali deepfake’ów
Malezja i Indonezja zdecydowały o czasowym zablokowaniu dostępu do chatbota Grok – narzędzia sztucznej inteligencji powiązanego z platformą X Elona Muska – wskazując na rosnący problem generowania seksualizowanych, niechcianych i zmanipulowanych obrazów prawdziwych osób. Władze obu państw uznały, że dotychczasowe zabezpieczenia są niewystarczające, a narzędzie może być nadużywane do tworzenia pornograficznych deepfake’ów, także z udziałem kobiet i osób nieletnich.
Ministerstwa komunikacji Malezji i Indonezji ogłosiły swoje decyzje w weekend w oddzielnych komunikatach. Malezyjska Komisja ds. Komunikacji i Multimediów (MCMC) poinformowała, że już na początku roku kierowała do platformy X formalne zawiadomienia i żądała zaostrzenia środków ochronnych po stwierdzeniu "wielokrotnego nadużywania" Groka do generowania treści szkodliwych oraz nieobyczajnych. Regulator skrytykował odpowiedź platformy za oparcie się głównie na mechanizmach zgłaszania przez użytkowników, bez odniesienia się do ryzyk wynikających z samej konstrukcji narzędzia. Blokada ma obowiązywać do czasu wdrożenia skutecznych zabezpieczeń.
Z kolei w Indonezji minister komunikacji i spraw cyfrowych Meutya Hafid oceniła, że wykorzystywanie AI do tworzenia seksualizowanych deepfake’ów narusza prawa człowieka, godność oraz bezpieczeństwo w sieci. Resort zwrócił się też do X o wyjaśnienia dotyczące działania i nadużyć związanych z Grokiem. Indonezja w ostatnich latach zaostrzała politykę wobec treści pornograficznych online – wcześniej blokowano tam m.in. Pornhub czy OnlyFans – a teraz po raz pierwszy tak zdecydowanie sięgnięto po narzędzie wobec systemu generatywnej AI.
W tle decyzji rządów pojawiają się również indywidualne historie osób, których wizerunki miały zostać przerobione w sposób upokarzający. Indonezyjscy użytkownicy X zgłaszali przypadki, gdy nieznajomi prosili Groka o "przeróbkę" zdjęć tak, by przedstawiały ich w skąpych strojach. Skargi dotyczyły też nieskuteczności prób usuwania zmanipulowanych materiałów i trudności w powstrzymaniu ich dalszego rozpowszechniania.
Sprawa wykracza już poza Azję Południowo-Wschodnią. W Wielkiej Brytanii regulator Ofcom wszczął postępowanie wyjaśniające wobec X w związku z doniesieniami o wykorzystywaniu Groka do tworzenia seksualizowanych obrazów, w tym potencjalnie dotyczących dzieci. Brytyjska minister ds. technologii Liz Kendall zapowiedziała poparcie dla ostrzejszych działań, jeśli platforma nie będzie spełniała wymogów prawa dotyczącego bezpieczeństwa w sieci. Temat wywołał również spór polityczny o granice regulacji i wolności słowa.
Według relacji mediów Grok – rozwijany przez firmę xAI i zintegrowany z X – ograniczał niektóre funkcje generowania obrazów do użytkowników płacących, jednak część rządów i regulatorów ocenia, że takie kroki nie rozwiązują problemu nadużyć. Jednocześnie xAI oraz X były proszone o komentarz przez redakcje, a w części przypadków odpowiedzi były krytykowane jako niewystarczające.
Decyzje Malezji i Indonezji mogą stać się precedensem dla kolejnych państw, które – w obliczu rosnącej fali intymnych deepfake’ów – szukają narzędzi pozwalających szybciej reagować na nadużycia generatywnej AI. Na razie oba kraje stawiają warunek: powrót Groka ma być możliwy dopiero wtedy, gdy platforma wdroży realne, techniczne bariery ograniczające tworzenie i dystrybucję szkodliwych treści.
