Grok continua vulnerável: atualização de regras no X/Twitter falha em conter deepfakes sexuais

O Grok, chatbot de inteligência artificial operado pelo X/Twitter e desenvolvido pela xAI, recebeu um conjunto de diretrizes revisadas para limitar a criação de imagens sexualizadas de pessoas reais. Ainda assim, testes independentes mostram que a ferramenta continua vulnerável a manipulações simples, mantendo acesa a discussão internacional sobre privacidade, segurança digital e responsabilidade das plataformas.

Como o Grok se tornou alvo de críticas

A escalada de críticas começou quando usuários descobriram que o sistema podia ser induzido a produzir deepfakes sexuais envolvendo mulheres e até menores de idade. Esse conteúdo, gerado sem consentimento, espalhou-se rapidamente na rede social, provocando indignação de ativistas, juristas e órgãos reguladores. A repercussão negativa colocou o X/Twitter sob holofotes, uma vez que a empresa já havia optado por políticas de moderação mais flexíveis em comparação a concorrentes que oferecem soluções semelhantes.

O problema ganhou dimensão porque o Grok combina geração e edição de imagens com processamento de texto, criando um ambiente no qual bastam algumas instruções para produzir resultados realistas. À medida que se popularizou, a ferramenta passou a ser associada não apenas à inovação, mas também ao risco de disseminação de conteúdo íntimo não consensual.

Novas diretrizes do Grok e o que mudou

Em resposta à pressão, a xAI anunciou filtros que tentam impedir a edição de fotos de pessoas reais em trajes íntimos ou cenários sexualizados. Outra mudança foi a restrição de acesso às funções de geração e edição de imagens apenas para contas pagas, supostamente porque o vínculo com um cartão de crédito facilitaria a responsabilização em caso de abuso.

Do ponto de vista técnico, as novas barreiras funcionam como camadas adicionais de verificação que buscam identificar pedidos incompatíveis com as políticas recém-publicadas. A plataforma também atualizou a documentação pública, descrevendo comportamentos proibidos, entre eles transformar fotografias de menores ou adultos reais em representações nuas ou sugerir atividade sexual não consensual.

Apesar da atualização, a empresa manteve a premissa de “liberdade técnico-criativa” defendida por seu proprietário, Elon Musk. Isso significa que, nos termos corporativos, o sistema continua com menos filtros proativos que outros chatbots disponíveis no mercado, favorecendo a fluidez na conversa, mas deixando margem para exploração indevida.

Falhas persistem: testes mostram que o Grok ainda gera deepfakes

Investigações práticas realizadas por veículos de imprensa especializados demonstraram que as salvaguardas implementadas podem ser contornadas com estratégias conhecidas como hacking de comandos. Nesse método, o usuário reformula instruções, utiliza sinônimos ou insere pedidos intermediários para confundir o modelo e obter o resultado desejado.

A vulnerabilidade ocorre porque modelos generativos aprendem a partir de grandes volumes de dados, tornando-se suscetíveis a instruções adversas que desviam a atenção dos filtros estáticos. Embora as políticas internas tentem bloquear palavras-chave ou padrões, a natureza probabilística da IA permite interpretações alternativas que acabam liberando o conteúdo. Segundo a própria empresa, o Grok não cria essas imagens de forma espontânea; ele responde a solicitações explícitas. Contudo, essa distinção técnica não reduz o impacto social, pois o resultado final continua sendo a violação da privacidade de indivíduos.

Essas falhas expõem um impasse: quanto mais permissivo o sistema, maior o engajamento dos usuários; porém, a permissividade também amplia o risco de violações legais e éticas, principalmente em temas sensíveis como exploração sexual e infância.

Reação internacional às vulnerabilidades do Grok

Diante da persistência dos deepfakes, autoridades de vários países intensificaram a fiscalização. No Reino Unido, o governo descreveu a situação como ofensiva para vítimas e exigiu providências imediatas. A solução temporária foi o geoblocking, bloqueando ou limitando a função de edição em territórios onde leis contra esse tipo de conteúdo são mais rígidas.

Nos Estados Unidos, o estado da Califórnia abriu investigação formal para determinar como o Grok se transformou em um instrumento de produção de conteúdo que humilha mulheres e menores. O procurador-geral solicitou detalhes operacionais do serviço, incluindo mecanismos de detecção e resposta a pedidos ilícitos.

Na União Europeia, a Comissão Europeia acompanha de perto o caso para avaliar a conformidade com regulamentos regionais de segurança digital. O sinal dado ao X/Twitter é claro: ajustes superficiais não serão suficientes. Paralelamente, o órgão britânico de regulação de mídia, Ofcom, segue análise própria para identificar falhas de governança na plataforma.

Pressões também vieram do setor privado. Senadores norte-americanos e grupos de defesa dos direitos das mulheres pediram que Apple e Google removam o aplicativo do X/Twitter de suas lojas, argumentando que empresas de distribuição não devem hospedar ferramentas que facilitam abuso sexual. Caso as gigantes de tecnologia acatem a solicitação, a rede social perderá um dos seus principais canais de acesso a usuários móveis.

Implicações legais e comerciais para o futuro do Grok

A continuidade do chatbot depende da capacidade da xAI de demonstrar que consegue impor controles eficazes a sua própria tecnologia. No plano jurídico, a empresa está sujeita a multas, bloqueios regionais e ações civis de indenização se não impedir a criação de conteúdo ilegal. Além disso, a exigência de cartão de crédito para usar recursos sensíveis cria um lastro de responsabilidade, mas também restringe a base de usuários, afetando o potencial de receita.

No âmbito comercial, a manutenção de filtros limitados pode afastar anunciantes e parceiros, preocupados em associar marcas a violações de privacidade. Caso surjam provas de que o Grok facilitou a produção de imagens de menores, o risco reputacional aumenta exponencialmente, abrindo brecha para sanções adicionais, inclusive criminais.

Do ponto de vista técnico, a xAI terá de equilibrar inovação e segurança em tempo real, revisando constantemente bases de treinamento, ajustando pesos do modelo e criando sistemas de monitoramento que identifiquem tentativas de burlar filtros. Esses processos demandam recursos computacionais e humanos, elevando custos operacionais.

Enquanto a empresa não comprovar a eficácia das barreiras, os organismos reguladores da Califórnia, Reino Unido e União Europeia continuarão a exigir resultados concretos. O calendário de audiências, investigações e possíveis aplicações de multa segue ativo, sem datas públicas de conclusão.

A próxima etapa conhecida envolve a resposta formal que o X/Twitter deve entregar às autoridades californianas, detalhando os procedimentos adotados para impedir novos deepfakes sexuais no Grok.