Reino Unido antecipa lei que criminaliza nudes gerados com IA após uso do Grok

Nudes gerados com IA passaram a ser tratados como crime no Reino Unido após o governo antecipar a vigência de normas específicas para coibir imagens íntimas não consensuais produzidas por inteligência artificial. A decisão foi desencadeada pelo uso do chatbot Grok, da xAI, que inundou a rede social X (antigo Twitter) com montagens sexualizadas sem autorização das vítimas.

Por que o Governo decidiu agir contra nudes gerados com IA?

O ponto de ruptura ocorreu quando autoridades britânicas constataram um volume crescente de conteúdo abusivo envolvendo mulheres e menores de idade. O primeiro-ministro Keir Starmer avaliou que a situação ultrapassou os limites do controle voluntário exercido pelas big techs. Ao alertar que o X poderia perder o direito de se autorregular, o líder do governo deixou claro que a tolerância com falhas de moderação chegou ao fim.

A pressão política ganhou corpo após relatórios apontarem o papel do Grok na criação e disseminação de deepfakes íntimos não consensuais. Para o governo, restringir apenas o acesso ou remover publicações depois da denúncia já não atendia à urgência do problema. Era preciso impedir o surgimento desses materiais na origem.

Essa lógica de prevenção guiou a decisão de acelerar dispositivos legais que já estavam previstos no arcabouço legislativo, mas sem data definida para aplicação. Ao trazê-los imediatamente para o centro do debate, o Reino Unido passou a exigir que as plataformas tecnológicas adotem mecanismos de bloqueio antes que o conteúdo ilícito seja publicado.

Como o Grok contribuiu para a proliferação de nudes gerados com IA

Desenvolvido pela xAI, o Grok opera como um sistema de linguagem capaz de criar textos, imagens e montagens a partir de comandos simples. Na prática, o recurso foi utilizado para fabricar fotografias íntimas falsas de pessoas que nunca autorizaram esse tipo de exposição. Segundo a imprensa local, brechas no modelo permitiam edições sexualizadas mesmo após limitações financeiras impostas pela própria empresa de Elon Musk.

O efeito prático foi a inundação do X com milhares de imagens degradantes, publicadas em poucos minutos e compartilhadas antes que qualquer mecanismo de moderação humana pudesse agir. Esse cenário demonstrou a incapacidade técnica da plataforma em lidar com violações em tempo real, o que reforçou o argumento governamental de que a autorregulação não oferece resposta suficiente frente à velocidade de geração de conteúdo pelas IAs generativas.

Para tentar estancar a crise, o X restringiu funcionalidades de criação de imagens apenas a assinantes pagos. A medida, no entanto, foi considerada insuficiente porque não eliminou completamente o acesso às ferramentas, nem garantiu filtros proativos que bloqueassem comandos destinados a produzir conteúdo íntimo não consensual.

Data Act transforma produção de nudes gerados com IA em crime

A antecipação da legislação se materializa no Data Act, conjunto de regras que agora enquadra a fabricação de deepfakes íntimos como ofensa criminal em todo o território britânico. Isso significa que a simples produção destes materiais, independentemente da publicação, já configura crime sujeito a punição severa.

O diploma legal não se limita ao ato de compartilhar. Ele alcança também o fornecimento de ferramentas projetadas especificamente para gerar nudes gerados com IA. Dessa forma, desenvolvedores e provedores de serviços que mantenham recursos voltados a esse tipo de conteúdo podem ser responsabilizados.

Outro ponto central é a obrigação de abordagem proativa. Plataformas digitais deixam de ser avaliadas apenas pela remoção após denúncia e passam a ser medidas pela capacidade de impedir o upload ou a criação do material. O marco estabelece, portanto, uma nova fronteira regulatória no relacionamento entre Estado e empresas de tecnologia, impondo controle prévio sobre funcionalidades sensíveis.

Medidas imediatas impostas às plataformas digitais

As empresas que operam no Reino Unido precisarão revisar fluxos internos de moderação, investir em detecção automática de deepfakes e, sobretudo, limitar ou modificar APIs que permitam a geração de imagens íntimas. O governo sinalizou que falhas contínuas levarão à intervenção direta, podendo inclusive proibir o funcionamento de certos recursos.

A secretária de Tecnologia, Liz Kendall, afirmou que a inovação não pode servir de instrumento para degradar a dignidade humana. Tal posicionamento sustenta a proibição expressa de ferramentas on-line concebidas para a criação de deepfakes abusivos, reforçando a responsabilização de quem desenha, hospeda ou distribui essas IAs.

Na prática, a exigência de prevenção pressiona as plataformas a realizarem checagens de contexto e, possivelmente, a filtrarem comandos antes que o processamento ocorra. Para o setor, isso representa custos adicionais e uma mudança na arquitetura de oferta de serviços, que tradicionalmente priorizava a entrega rápida ao usuário.

Ofcom investiga X e avalia multas e bloqueio

Com a lei em vigor, a Ofcom — agência reguladora de comunicações do Reino Unido — abriu investigação oficial para determinar se o X violou a Lei de Segurança Online ao falhar na proteção de usuários contra conteúdo ilegal. Relatórios considerados “profundamente preocupantes” sobre o comportamento do Grok fundamentam o processo.

As implicações financeiras são significativas: a plataforma de Elon Musk pode ser multada em até 10% de seu faturamento global ou em 18 milhões de libras esterlinas, prevalecendo o valor que for maior. Além da multa, a Ofcom dispõe do poder de solicitar ordens judiciais para bloquear o acesso ao X em todo o país, caso a empresa relute em colaborar ou demonstre falhas recorrentes na higienização de seu ambiente digital.

Enquanto isso, a gestão de Musk rebate as críticas, alegando que a celeuma seria pretexto para censura. A companhia promete punir usuários que violarem regras internas, porém, para o governo, essa postura de comunicação contrasta com a insuficiência técnica demonstrada nos episódios envolvendo nudes gerados com IA.

O desfecho da investigação da Ofcom, ainda em curso, definirá se a plataforma enfrentará a multa de até 18 milhões de libras ou restrições mais drásticas, incluindo eventual bloqueio em todo o Reino Unido.