Minister cyfryzacji Indonezji, Meutya Hafid, poinformował w sobotnim oświadczeniu, że celem zakazu dostępu do chatbota Grok jest ochrona społeczeństwa, w szczególności kobiet i dzieci, przed zagrożeniami wynikającymi z tworzenia fałszywych treści pornograficznych przy użyciu technologii sztucznej inteligencji.
Malezja, jako drugie po Indonezji państwo, zablokowała dostęp do narzędzia. Komisja Łączności i Multimediów poinformowała w niedzielę, że stwierdzono wielokrotne niewłaściwe wykorzystanie Groka do generowania szkodliwych treści. Na początku roku organ wysłał do firmy xAI prośbę o interwencję, jednak w odpowiedzi nie odniosła się ona do wskazanych zagrożeń. W związku z tym Grok pozostanie zablokowany w Malezji do czasu wprowadzenia skutecznych zabezpieczeń.
Przedstawiciele władz wielu krajów europejskich i Indii wyrazili zaniepokojenie związane z funkcjonowaniem Groka. Wykorzystywanie narzędzia do generowania treści o charakterze seksualnym spotkało się z krytyką premiera Wielkiej Brytanii Keira Starmera, który określił takie działania jako haniebne i obrzydliwe. Według BBC, brytyjski regulator medialny Ofcom wkrótce ma podjąć decyzję w sprawie dalszych kroków wobec Groka.
Setki poszkodowanych
Twórcy chatbota przyznali, że problem wynika z luk w zabezpieczeniach systemu. W piątek użytkownicy X zaczęli otrzymywać komunikaty, że generowanie i edytowanie obrazów za pomocą Groka wymaga opłacenia subskrypcji. Jednocześnie osoby bez abonamentu wciąż mogą korzystać z tych funkcji w osobnej aplikacji lub na stronie internetowej Groka.
Elon Musk i firma xAI zapewnili, że rozwiązują problem, trwale zawieszając konta naruszające zasady oraz współpracując z lokalnymi organami ścigania. Mimo to Grok nadal spełniał prośby użytkowników i zalewał media społecznościowe obscenicznymi przeróbkami zdjęć prawdziwych osób.
Chatbot Grok oferuje użytkownikom tryb spicy, umożliwiający generowanie treści o charakterze seksualnym. Śledztwa ujawniły, że niektórzy użytkownicy wykorzystywali tę funkcję do edytowania zdjęć, prosząc AI o rozbieranie osób. Media donosiły, że Grok generował obrazy przedstawiające skąpo ubrane lub nagie osoby – zarówno publiczne, jak i prywatne – w tym dzieci, bez ich zgody. Szacuje się, że liczba poszkodowanych kobiet i nieletnich mogła sięgać setek.