Governo e MP recomendam que X impeça conteúdos sexualizados gerados pelo Grok

As autoridades brasileiras de proteção de dados e defesa do consumidor encaminharam uma série de recomendações formais à empresa controladora da rede social X, exigindo medidas concretas para impedir a circulação de conteúdos sexualizados gerados pela ferramenta de inteligência artificial da plataforma, o Grok. O documento, divulgado pelas instituições nessa terça-feira, detalha prazos, procedimentos e bases legais que fundamentam a cobrança, apontando riscos graves à privacidade, à dignidade humana e à segurança de grupos vulneráveis.

Contexto das recomendações sobre conteúdos sexualizados no X

A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) decidiram agir após receberem denúncias de usuários que identificaram a criação de imagens sintéticas com teor erótico a partir de fotografias de pessoas reais. Reportagens veiculadas na imprensa nacional e internacional, além de testes conduzidos pelas próprias entidades, reforçaram a constatação de que o Grok vem sendo utilizado para produzir deepfakes com conteúdos sexualizados, envolvendo mulheres adultas, crianças e adolescentes.

Segundo as instituições, essa prática coloca em risco direitos individuais e coletivos, como a proteção de dados pessoais, a integridade física e moral dos retratados e a preservação da dignidade humana. Ao mesmo tempo, projeta impactos negativos nas relações de consumo, pois usuários da plataforma são expostos a material ilícito e potencialmente traumático.

Procedimentos exigidos para identificação e remoção de conteúdos sexualizados

No centro das recomendações está a obrigação de o X implementar, em até 30 dias, procedimentos técnicos e operacionais capazes de identificar, revisar e remover quaisquer conteúdos sexualizados produzidos pelo Grok. Esses procedimentos devem abranger todos os formatos gerados pela inteligência artificial — imagens, vídeos e áudios — e atuar tanto de forma preventiva quanto repressiva, bloqueando novas criações ilícitas e eliminando o material já disponível.

O prazo de 30 dias foi definido para garantir resposta rápida, considerada fundamental diante do potencial de dano imediato causado por publicações desse tipo. A expectativa das entidades é que a rede social estabeleça filtros robustos, monitoramento contínuo e revisão humana quando necessário, assegurando que nenhuma produção envolvendo sexualidade de forma indevida permaneça acessível.

Suspensão de contas e mecanismo de denúncias contra conteúdos sexualizados

Além da retirada do material, o documento determina a suspensão imediata de todas as contas envolvidas na criação ou disseminação de deepfakes ou demais representações eróticas não autorizadas. A medida vale tanto para material envolvendo crianças e adolescentes quanto para adultos que não forneceram consentimento. Na avaliação das autoridades, a punição de contas infratoras é indispensável para desencorajar novos abusos e sinalizar tolerância zero com conteúdos sexualizados ilícitos.

Outra recomendação expressa é a criação de um mecanismo transparente, acessível e eficaz para que qualquer titular de dados possa reportar violações. Esse canal deverá permitir o envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, sobretudo em casos de produção de imagens erotizadas sem consentimento. A plataforma deverá responder de forma adequada e em prazo razoável, reforçando a responsabilidade de acolher e resolver rapidamente as queixas dos usuários afetados.

Fundamentação legal para coibir conteúdos sexualizados produzidos pelo Grok

Para justificar a responsabilidade direta do X, o documento relembra que o artigo 19 do Marco Civil da Internet limita a responsabilidade do provedor perante conteúdos de terceiros, salvo após ordem judicial. Contudo, as autoridades argumentam que a situação das deepfakes sexualizadas difere, pois não se trata apenas de material postado autonomamente por usuários, e sim de conteúdo criado por interação entre usuários e a inteligência artificial disponibilizada pela empresa. Dessa forma, o X ultrapassa a figura de mero intermediário e torna-se coautor do material ilícito.

O texto menciona ainda decisão recente do Supremo Tribunal Federal (STF), que considerou parcialmente inconstitucional o referido artigo 19, entendendo que ele não oferece proteção adequada a direitos fundamentais. No julgamento, a Corte destacou o “dever especial de cuidado” dos provedores para evitar a circulação massiva de crimes graves, incluindo aqueles praticados contra mulheres e crianças. Esse precedente reforça a cobrança de ações imediatas para eliminar conteúdos sexualizados gerados pelo Grok.

Política interna do X e possíveis consequências caso conteúdos sexualizados persistam

Ao lado da legislação nacional, as próprias regras internas do X vedam a divulgação de nudez não consensual e proíbem a criação, manipulação ou compartilhamento de material sexual envolvendo terceiros sem permissão. Segundo a política da plataforma, qualquer violação desse tipo justifica a remoção do conteúdo e a aplicação de sanções sobre as contas responsáveis.

A despeito das normas, as instituições identificaram falhas nos filtros do Grok, que continuaria permitindo a criação de imagens eroticamente explícitas com indivíduos reconhecíveis. Para ANDP, Senacom e MPF, essa fragilidade operacional mostra que a plataforma carece de controles eficazes, tornando “insustentável” a manutenção do recurso de inteligência artificial sem ajustes rigorosos.

O documento finaliza alertando que, caso as recomendações não sejam acatadas ou sejam executadas de forma insuficiente, as entidades poderão adotar medidas adicionais em âmbito administrativo ou judicial. O objetivo é garantir a proteção adequada de mulheres, crianças e adolescentes, além de resguardar a privacidade e os direitos de todos os usuários do país.

As instituições aguardam a implementação das ações determinadas dentro do prazo de 30 dias, período após o qual novas providências poderão ser anunciadas para assegurar a efetiva retirada e prevenção de conteúdos sexualizados indevidos gerados pelo Grok.