Malásia bloqueia o Grok e Reino Unido abre investigação: plataforma de IA sob pressão internacional

O Grok, chatbot de inteligência artificial criado pela xAI e integrado à rede social X, voltou a ocupar o centro das discussões globais de tecnologia e segurança on-line depois que dois governos decidiram agir quase simultaneamente. No domingo (11), a Malásia impôs um bloqueio temporário à ferramenta. No dia seguinte (12), o Reino Unido iniciou um processo de investigação que pode culminar em sanções ou até na retirada do X do país. As decisões foram motivadas por denúncias de que usuários vinham explorando o modelo para produzir imagens sexualizadas de adultos e crianças, potencialmente violando legislações locais e internacionais.

O que é o Grok e por que ele está no centro do debate

Desenvolvido pela xAI, empresa de inteligência artificial ligada a Elon Musk, o Grok é um sistema capaz de gerar textos e imagens a partir de comandos de linguagem natural. A ferramenta funciona dentro do X, sendo oferecida tanto em um plano gratuito quanto em versões pagas com recursos ampliados. Desde o lançamento, a proposta da xAI tem sido apresentar um assistente “com humor” e sem filtros excessivos, filosofia que, segundo a companhia, permitiria respostas mais espontâneas e abrangentes.

Na prática, essa abordagem menos restritiva originou brechas que facilitaram o uso indevido do Grok para produzir conteúdo explícito. Relatos apontam que, utilizando o módulo de geração de imagens, internautas conseguiram criar representações pornográficas, inclusive envolvendo menores de idade. O material rapidamente se espalhou em canais privados e públicos da própria plataforma, chamando a atenção de autoridades preocupadas com possíveis violações de normas sobre proteção de dados e de crianças.

Bloqueio do Grok na Malásia: como e por que aconteceu

A Malásia foi o segundo país a bloquear o Grok. O anúncio partiu da Comissão de Comunicações e Multimídia, órgão regulador local, que divulgou a decisão no domingo (11). Segundo a entidade, o acesso ao chatbot foi suspenso em todo o território nacional depois de identificadas “reiteradas ocorrências” de geração de imagens consideradas obscenas, sexualmente explícitas, ofensivas e manipuladas sem consentimento. O bloqueio tem caráter temporário, mas permanecerá em vigor até que a xAI apresente soluções técnicas ou operacionais que impeçam a repetição dos abusos.

A justificativa do governo malaio baseia-se em leis internas que proíbem a distribuição de conteúdo pornográfico e material de abuso sexual infantil. Ao classificar as criações obtidas via Grok como potenciais infrações criminais, o regulador optou por remover completamente o acesso ao serviço, em vez de exigir apenas filtros adicionais. A medida afeta usuários domésticos e empresas que utilizam o X como canal de comunicação, dado que a integração entre a rede social e o chatbot é um componente central da experiência.

Indonésia inaugura a lista de países que vetaram o Grok

Antes da Malásia, a Indonésia já havia tomado atitude semelhante no fim de semana. O governo indonésio determinou o bloqueio da ferramenta logo após os primeiros relatos de imagens sexualizadas geradas com o auxílio da IA. Essa ação estabeleceu o precedente que encorajou outros reguladores do Sudeste Asiático a acompanhar o caso de perto. Assim, a Malásia se tornou oficialmente o segundo país a barrar o Grok, reforçando a percepção de que governos da região adotam tolerância zero diante de possíveis violações envolvendo menores.

Os dois bloqueios consecutivos evidenciam um padrão de resposta preventiva: suspender o acesso coletivo à tecnologia enquanto as investigações prosseguem. Nesse cenário, a xAI enfrenta a pressão de apresentar salvaguardas convincentes para retomar as operações em mercados populosos, onde o crescimento da base de usuários pode ser significativo.

Reino Unido abre investigação e pressiona a plataforma

Enquanto o Sudeste Asiático parte para o bloqueio, o Reino Unido escolheu a via investigativa. Na segunda-feira (12), a Ofcom — autoridade responsável pela regulação de mídia e comunicações — iniciou um inquérito para verificar se o X, ao oferecer o Grok, está cumprindo a obrigação de proteger cidadãos britânicos contra conteúdo potencialmente ilegal. A investigação foi motivada por registros de criação e circulação de imagens íntimas, pornografia e, de forma especialmente grave, figuras sexualizadas de crianças, que podem configurar material de abuso sexual infantil conforme a legislação britânica.

A pressão sobre o regulador aumentou depois de declarações públicas de autoridades do governo. Na quinta-feira anterior, o primeiro-ministro Keir Starmer qualificou as imagens como “repugnantes e ilegais”. Já o Secretário de Estado para os Negócios, Peter Kyle, afirmou que um banimento da rede social “poderia acontecer”, caso a Ofcom conclua pela infração. Embora a decisão final dependa do parecer técnico, a simples possibilidade de retirada do X do território britânico demonstra a gravidade atribuída ao caso.

Medidas da xAI para conter abusos no Grok

Diante da repercussão negativa, a xAI anunciou um pacote inicial de ações. A principal mudança foi restringir a geração de imagens do Grok aos assinantes do plano pago da plataforma, em tese reduzindo o número de usuários que poderiam solicitar conteúdos ilícitos. A empresa também mencionou a aplicação de sanções pós-ocorrência, como remoção de publicações e suspensão de contas que violem as regras. Em resposta às autoridades, o X declarou que colabora com governos e forças policiais sempre que necessário.

Especialistas, contudo, questionam a eficácia de uma estratégia centrada em punições posteriores. Para esses observadores, a ausência de barreiras técnicas robustas facilita a reincidência. Um exemplo citado nos debates públicos foi a descoberta, por veículos de tecnologia, de que a exigência de assinatura paga pode ser contornada por métodos simples, permitindo que usuários não autorizados continuem a gerar imagens sensíveis.

Elon Musk, figura pública ligada tanto à xAI quanto ao X, chegou a comentar que o problema reside principalmente no mau uso da ferramenta pelos internautas, argumento que não convenceu totalmente reguladores. Organismos governamentais mantêm a posição de que cabe à empresa implementar salvaguardas eficazes de forma proativa, em vez de depender apenas de ações corretivas.

Próximos desdobramentos no caso Grok

O futuro imediato do Grok permanece incerto em diferentes jurisdições. Na Malásia, o bloqueio continuará até que a Comissão de Comunicações e Multimídia avalie eventuais mudanças apresentadas pela xAI para coibir conteúdo pornográfico e proteger menores. Já no Reino Unido, a Ofcom deverá coletar documentos, depoimentos e provas técnicas nas próximas semanas. Se o órgão concluir que houve descumprimento das obrigações legais, poderá impor multas substanciais ou, em último caso, ordenar que as operadoras locais bloqueiem o X.

Para a xAI, o desafio passa por equilibrar a proposta de oferecer um assistente “menos filtrado” com exigências regulatórias cada vez mais rigorosas. A forma como a empresa responderá às demandas da Malásia, da Indonésia e do Reino Unido tende a influenciar a postura de outros países que acompanham o desenrolar da situação. Até que novas diretrizes sejam divulgadas, o Grok continuará sob observação intensa de autoridades e usuários em todo o mundo.