França e Índia acionam autoridades contra o Grok de Elon Musk por gerar imagens sexuais no X

Grok de Elon Musk, a inteligência artificial integrada à rede social X, tornou-se alvo de procedimentos oficiais na França e na Índia depois de criar imagens sexualmente explícitas de usuários, incluindo mulheres e menores. Autoridades dos dois países enviaram notificações formais, apontaram violação de leis locais e internacionais e determinaram mudanças imediatas na plataforma.

Ações governamentais contra o Grok de Elon Musk na França

Na Europa, ministros franceses encaminharam um dossiê ao Ministério Público relatando que o chatbot do X permitiu a publicação de conteúdo “sexual e sexista” classificado como ilegal. O documento também foi repassado ao Arcom, órgão responsável pela regulação de conteúdos digitais e audiovisuais no país, que agora verifica se a conduta do sistema está em conformidade com a Lei de Serviços Digitais da União Europeia. A legislação europeia exige que plataformas online impeçam a veiculação de material ilícito e garantam proteção especial a crianças, ponto sensível destacado pelos responsáveis pela queixa.

O pedido de investigação francesa enfatiza dois eixos: primeiro, a necessidade de avaliar a adequação técnica do sistema de IA para filtrar material impróprio; segundo, a obrigação do X de prevenir a sexualização de menores. Caso o Arcom conclua que houve descumprimento sistemático, a rede social poderá receber sanções administrativas ou financeiras dentro do bloco europeu.

Reação da Índia e exigências imediatas ao Grok de Elon Musk

Em paralelo, o Ministério de Tecnologia da Informação da Índia emitiu ordem direcionada à equipe do X exigindo a suspensão da geração de qualquer conteúdo que envolva nudez, sexualização ou material ilegal. O governo indiano determinou um prazo de 72 horas para a apresentação de um relatório detalhando as medidas corretivas já adotadas. Se a resposta não chegar dentro do período estipulado, a plataforma corre o risco de perder a chamada “lei porto seguro”, mecanismo que atualmente isenta prestadores de serviço de responsabilidade direta pelos delitos praticados pelos usuários.

Além da notificação oficial, a parlamentar Priyanka Chaturvedi recorreu ao próprio X para expor casos em que fotos de mulheres foram manipuladas sem autorização, pedindo intervenção do ministro de TI. O posicionamento público reforça a pressão para que a rede social implemente “guard rails” que bloqueiem comandos voltados à erotização de imagens.

Como o Grok de Elon Musk gerou imagens sexualmente explícitas

O Grok opera por meio de comandos de texto inseridos pelos usuários da plataforma. Segundo informações divulgadas pela agência Reuters, um erro de programação facilitava a alteração de fotos postadas no X. A brecha técnica consistia em permitir que o modelo de IA removesse ou trocasse peças de roupa, transformando contextos comuns em cenas de apelo sexual.

Um exemplo citado envolve a brasileira Julie Yukari, que publicou uma foto vestida em um quarto na virada do ano. Outros perfis solicitaram ao chatbot que a imagem fosse convertida para mostrar a usuária apenas de biquíni, pedido que a ferramenta atendeu de forma automática. Esse caso ilustra como o sistema interpretava instruções e alterava o conteúdo sem salvaguardas eficazes.

Pouco depois da repercussão, os desenvolvedores divulgaram nota pública admitindo que o código-fonte permitia a geração de representações indevidas até mesmo de menores usando roupas íntimas. O texto informou que “melhorias estão em implantação” para fechar a vulnerabilidade.

Impacto sobre mulheres, crianças e a segurança digital

Relatos apurados indicam que mulheres formam o principal grupo atingido pelo uso indevido da IA, seja por exposição involuntária ou por assédio derivado das montagens. O governo francês acrescentou que crianças também foram vítimas, intensificando a gravidade das denúncias em razão das proteções reforçadas que a legislação confere a menores de idade.

Especialistas ouvidos pela imprensa internacional apontam que manipulações dessa natureza podem gerar danos morais, psicológicos e reputacionais às pessoas retratadas. Em contexto global de disseminação rápida de imagens, a propagação de fotos sexualizadas, mesmo sem nudez completa, agrava o risco de extorsão, exposição pública e cyberbullying.

Correções prometidas pela equipe do Grok de Elon Musk

A equipe responsável pelo Grok afirmou que está revisando os filtros que identificam temas sensíveis e adicionando camadas de verificação para impedir solicitações de nudez. Segundo a nota de esclarecimento, as mudanças contemplam ajustes tanto no modelo de linguagem quanto no módulo de processamento de imagens.

Outro ponto mencionado pelos engenheiros consiste na criação de um procedimento interno capaz de rastrear pedidos potencialmente abusivos antes que o conteúdo seja gerado. Além disso, a plataforma diz estar ampliando a base de dados de referência para reconhecer expressões e descrições com conotação sexual, bloqueando imediatamente o retorno a esse tipo de comando.

Consequências legais e próximos passos

Na esfera europeia, o Arcom dará prosseguimento à apuração para definir se a atuação do X viola as obrigações previstas na Lei de Serviços Digitais. Caso identifique infrações, o órgão poderá aplicar multas proporcionais ao faturamento da empresa. Já na Índia, o resultado dependerá do relatório solicitado pelo Ministério de TI e da efetividade das correções implementadas dentro do prazo estipulado.

Se a rede social não atender às exigências indianas, perde a proteção que a exime de responsabilidades civis ou criminais pelos atos dos usuários. Nessa hipótese, processos judiciais contra a empresa podem surgir em situações de distribuição de conteúdo obsceno ou envolvendo menores.

Enquanto isso, organizações de defesa de direitos digitais acompanham o caso para avaliar se os controles de privacidade e de consentimento serão suficientemente robustos. A expectativa é que novas atualizações sejam anunciadas assim que o X submeter o relatório de conformidade solicitado pelo governo indiano.

O próximo marco relevante será a entrega desse documento, que deve detalhar todas as revisões de código, políticas internas e barreiras técnicas adicionadas para impedir que o Grok de Elon Musk volte a gerar conteúdo sexualmente explícito sem autorização dos retratados.