Violações no Grok: MPF, ANPD e Senacon veem falhas e cobram ação imediata da plataforma X

Violações no Grok seguem sob investigação de três órgãos federais que apontam fragilidades na resposta da plataforma X e determinam a adoção de novas providências para conter a produção e circulação de imagens sexualizadas não autorizadas.

Entenda as violações no Grok e a resposta do X

O ponto central do processo gira em torno do Grok, ferramenta de inteligência artificial controlada pela plataforma X. Segundo o Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon), o recurso vem sendo empregado por usuários para criar e difundir imagens que sexualizam pessoas sem consentimento, incluindo crianças e adolescentes. A partir de comandos textuais inseridos na interface do Grok, conteúdos potencialmente ilícitos vêm sendo publicados na rede social, contrariando a legislação brasileira e as políticas internas divulgadas pela companhia.

Depois de receber recomendações formais no mês anterior, a empresa informou que removeu “milhares de publicações” e suspendeu “centenas de contas” envolvidas em violações. Também declarou ter aplicado barreiras de segurança adicionais. Contudo, ao avaliar a manifestação da empresa, os três órgãos concluíram que a resposta careceu de documentos comprobatórios, métricas auditáveis e mecanismos de verificação contínua que demonstrem a real eficácia das supostas barreiras.

Recomendações anteriores não foram cumpridas, apontam órgãos federais

As recomendações expedidas em janeiro compunham uma lista de procedimentos técnicos e operacionais. Entre eles constava a identificação automática de material sexualizado gerado pelo Grok, a revisão humana obrigatória antes da disponibilização pública e a exclusão imediata de conteúdos que violassem direitos de imagem ou que expusessem menores de idade. Também foi solicitado um canal interno de denúncia dedicado a vítimas de deepfake, além de transparência periódica sobre remoções e suspensões.

Na análise conjunta divulgada nesta quarta-feira, 11 de fevereiro de 2026, MPF, ANPD e Senacon relataram a persistência das falhas iniciais. Testes preliminares realizados por equipes técnicas vinculadas aos três órgãos demonstraram que, mesmo após a suposta limpeza de perfis e postagens, ainda é possível levar o Grok a gerar ou redistribuir imagens incompatíveis com as normas legais e regulatórias brasileiras. O resultado desses testes foi interpretado como indício de que a plataforma não implementou salvaguardas robustas ou abrangentes nas diversas versões, planos e modalidades do algoritmo.

Medidas imediatas exigidas para conter violações no Grok

Diante do cenário descrito, as instituições federais enviaram nova determinação à empresa. Entre as exigências destacam-se:

• Bloqueio instantâneo da criação e circulação de conteúdo sexualizado envolvendo crianças ou adolescentes.
• Proibição de geração de imagens eróticas de adultos sem consentimento prévio e expresso.
• Aplicação das mesmas salvaguardas em todas as vertentes do Grok, sem exceção para planos gratuitos ou pagos.
• Relatórios que comprovem, com dados objetivos, a eficiência dos filtros automáticos, detalhando critérios técnicos utilizados, prazos médios de resposta e eventuais correções adicionais.

As determinações têm caráter administrativo e podem evoluir para sanções mais duras, caso não sejam atendidas em tempo hábil. Para assegurar o monitoramento, cada órgão definiu obrigações específicas dentro do seu âmbito de atuação.

Exigências específicas do MPF: relatórios mensais e possível multa

A atuação do Ministério Público Federal prevê a entrega de relatórios mensais, já a partir de fevereiro, discriminando:

• Número de postagens ilícitas removidas.
• Total de contas suspensas por descumprir as políticas relacionadas a deepfakes.
• Descrição das estratégias adotadas para prevenir novas ocorrências.

O MPF ressaltou ainda a falta de transparência na primeira resposta da companhia. Caso os prazos não sejam observados ou as informações apresentadas permaneçam insuficientes, a plataforma pode ser multada diariamente. Além disso, responsáveis legais podem responder pelo crime de desobediência e outras medidas investigatórias podem ser instauradas, inclusive o ajuizamento de ação civil ou penal, conforme gravidade.

Papel da ANPD e da Senacon na investigação das violações no Grok

A Agência Nacional de Proteção de Dados, autarquia federal responsável por zelar pelo cumprimento da Lei Geral de Proteção de Dados (LGPD), mantém procedimento administrativo em aberto contra a plataforma. A entidade emitiu medida preventiva determinando que as salvaguardas do Grok abranjam “todas as versões, planos e modalidades”, evitando lacunas que permitam o uso indevido do recurso por segmentos específicos de usuários.

Já a Secretaria Nacional do Consumidor, órgão do Ministério da Justiça e Segurança Pública, conduz processo próprio com foco na proteção do usuário final. A Senacon exigiu comprovação documental das ações já tomadas para mitigar riscos e sanar problemas evidenciados. Também demandou um relatório métrico detalhado contendo dados quantitativos verificáveis sobre:

• Quantidade de conteúdos sexualizados identificados e removidos.
• Prazos médios entre denúncia, análise e retirada.
• Critérios técnicos empregados na moderação.
• Medidas corretivas adicionais, como suspensão de contas ou limitação de funcionalidades.

Consequências legais e administrativas para a plataforma X

O desdobramento das investigações pode resultar em diferentes tipos de penalidades. No âmbito administrativo, a inobservância de determinações formais pode gerar multas diárias ou cumulativas. No campo penal, controladores e gestores da plataforma podem ser responsabilizados por desobediência. Ademais, o MPF sinalizou a possibilidade de adotar medidas mais severas, que incluem a instauração de inquéritos ou o ajuizamento de ações judiciais específicas, caso a empresa mantenha conduta considerada omissiva ou insuficiente.

Na esfera de proteção de dados, a ANPD dispõe de instrumentos que permitem advertências, bloqueio de bancos de dados e, em última instância, suspensão do exercício da atividade de tratamento relacionada ao Grok. Já a Senacon pode aplicar sanções previstas no Código de Defesa do Consumidor, variando de multas à imposição de obrigação de fazer ou não fazer, obrigando a empresa a modificar práticas ou suspender serviços que coloquem em risco direitos básicos de usuários.

Próximos passos: cronograma de monitoramento e prazos para o X

Os três órgãos estabeleceram cronograma imediato de fiscalização. A plataforma precisa encaminhar os primeiros relatórios mensais ao MPF ainda em fevereiro de 2026. Paralelamente, deverá fornecer à ANPD a demonstração de que todas as versões do Grok estão cobertas por mecanismos de prevenção. À Senacon, o documento métrico, com dados quantitativos e verificáveis, também deve ser entregue dentro do mesmo período.

O não cumprimento de qualquer uma das exigências dentro dos prazos estipulados pode deflagrar a aplicação automática de multas diárias e o avanço de procedimentos investigatórios. Assim, o foco das autoridades nos próximos meses será avaliar se a plataforma X passará da retórica à implementação efetiva de controles capazes de eliminar a geração e disseminação de imagens sexualizadas não autorizadas.