Plataformas não identificam vídeos gerados por IA; teste expõe falhas em oito redes sociais

No primeiro teste comparativo que avaliou a capacidade de oito grandes redes sociais de avisar o público sobre a origem sintética de um vídeo, apenas o YouTube apresentou algum tipo de alerta. Mesmo assim, o aviso aparecia oculto na descrição do clipe. Todas as plataformas removeram os metadados que poderiam comprovar que o material havia sido produzido por inteligência artificial, demonstrando que o compromisso de rotular conteúdos artificiais ainda não chegou à prática cotidiana.

Como o teste foi conduzido

A experiência foi organizada por um veículo de comunicação internacional que buscou verificar o cumprimento de um padrão técnico criado para autenticar imagens, sons e vídeos. Para isso, os avaliadores produziram um clipe no Sora, gerador de vídeos da OpenAI, e enviaram o arquivo para Facebook, Instagram, LinkedIn, Pinterest, Snapchat, TikTok, X e YouTube. O material carregava as Credenciais de Conteúdo, indicando “Criado usando IA Generativa” e “publicado pela OpenAI”. O objetivo era conferir se, ao receber o vídeo, cada rede manteria os metadados e se exibiria qualquer sinalização visível de que o conteúdo era falso.

O resultado foi uniforme quanto à remoção de dados: nenhuma das oito plataformas preservou o pacote informativo embutido no vídeo. Esse pacote permitiria a qualquer usuário clicar e verificar detalhes como a ferramenta utilizada na captura, o software responsável pela edição ou, no caso, o sistema de IA empregado na geração. Na etapa seguinte, verificou-se a presença de rótulos ou alertas. Todas falharam, exceto o YouTube, que apresentou a mensagem “Conteúdo alterado ou sintético”, acessível apenas depois que o espectador expandia manualmente a descrição do arquivo.

O que são as Credenciais de Conteúdo

Lançado em 2021 por empresas como Microsoft, Adobe e BBC, o padrão de Credenciais de Conteúdo adiciona metadados invioláveis aos arquivos multimídia. Esses registros acompanham cada imagem ou vídeo, descrevendo o dispositivo que capturou a mídia, as etapas de edição executadas e, se for o caso, a tecnologia de IA responsável pela criação. A governança do sistema é feita pela Coalition for Content Provenance and Authenticity (C2PA), que conta com centenas de participantes do setor, incluindo Google, Meta, Intel, Sony, Nikon, OpenAI e TikTok. A adesão, entretanto, é voluntária.

A expectativa dos idealizadores é que a padronização permita um “histórico de origem” sempre disponível ao público. Se os metadados forem mantidos intactos, qualquer pessoa pode confirmar se um vídeo foi capturado por câmera tradicional ou se foi gerado por um modelo de linguagem multimodal, por exemplo. O procedimento, contudo, depende da colaboração de quem publica e de quem hospeda o conteúdo. Quando as plataformas apagam as informações, todo o esforço de rastreabilidade se perde.

Desempenho de cada rede social avaliada

O levantamento resumiu o desempenho das oito plataformas em dois critérios: preservação dos metadados das Credenciais de Conteúdo e indicação de uso de IA. Nos dois quesitos, o quadro foi o seguinte:

• YouTube: removeu os metadados, mas incluiu aviso oculto de que o vídeo era sintético.
• Facebook, Instagram, LinkedIn, Pinterest, Snapchat, TikTok e X: removeram os metadados e não acrescentaram qualquer sinalização visível ao usuário.

Em síntese, o público que consome vídeos nessas redes não tem acesso nem ao material de verificação embutido nem a etiquetas que informem claramente sobre a natureza artificial do conteúdo.

Por que a rotulagem é considerada essencial

Duas pesquisas acadêmicas conduzidas por Arosha Bandara, da Open University do Reino Unido, e Dilrukshi Gamage, da Universidade de Colombo, identificaram que etiquetar conteúdo sintético melhora a capacidade de o público reconhecer que se trata de material falso. O estudo concluiu que a simples presença de um rótulo reduz a probabilidade de o usuário compartilhar a peça como se fosse real.

Segundo Bandara, o avanço acelerado da geração de imagens e vídeos por IA criou um cenário em que a audiência “já ultrapassou o ponto” de discernir, sozinha, a autenticidade de cada clipe. Para o pesquisador, apenas um sistema robusto e padronizado de divulgação pode restabelecer a confiança.

Compromissos públicos e pressões regulatórias

Grandes empresas de tecnologia—entre elas Google e OpenAI—assumiram, durante a atual administração presidencial dos Estados Unidos, o compromisso de desenvolver mecanismos que deixem evidente quando um conteúdo é gerado por IA. Apesar dessas declarações, o experimento mostra que a implementação permanece restrita.

Nos Estados Unidos, a discussão também avança no âmbito legislativo. Na Califórnia, uma lei sancionada exige que, a partir do próximo ano, plataformas de grande porte forneçam de forma visível informações sobre vídeos ou imagens alterados digitalmente ou criados por inteligência artificial. Com a proximidade da vigência, observa-se um aumento da pressão sobre as empresas para que adotem soluções antes que a obrigação legal entre em vigor.

Desafios técnicos e práticas das plataformas

Um dos obstáculos citados por especialistas é a facilidade com que marcas d’água e demais identificadores podem ser removidos. A própria OpenAI reconhece que existem serviços online capazes de retirar logotipos ou camadas transparentes aplicadas nos vídeos do Sora. Além disso, a versão de desenvolvedor do aplicativo não inclui marcações visíveis nem metadados do padrão da C2PA, e os assinantes do plano profissional podem baixar os clipes sem qualquer vestígio de origem.

Para mitigar a fragilidade das marcas d’água, a OpenAI afirma ter incorporado identificadores invisíveis capazes de sinalizar autenticidade com alta precisão, mas essa tecnologia é usada internamente. O Google disponibiliza algo semelhante no projeto SynthID, igualmente restrito ao ambiente corporativo. Fora dessas iniciativas, diversas empresas oferecem ferramentas de detecção baseadas em análise de padrões visuais; até o momento, contudo, esses sistemas apresentam taxa de erro elevada e não foram adotados em larga escala pelas redes sociais.

Outra dificuldade técnica repousa no processo de upload das plataformas. Muitos serviços comprimem e reformatam arquivos para economizar largura de banda e otimizar a exibição em diferentes dispositivos. Essa recompactação costuma eliminar metadados considerados “não essenciais”, o que inclui justamente as Credenciais de Conteúdo. Ao priorizar desempenho e espaço de armazenamento, as empresas sacrificam informações que poderiam garantir transparência.

Posicionamento das companhias envolvidas

Procurado pelo jornal responsável pelo teste, o Google declarou, por meio de porta-voz, que as Credenciais de Conteúdo constituem apenas parte de sua estratégia de informar os usuários sobre a origem de vídeos e imagens. A empresa reconhece que a adoção completa demandará tempo e afirma que “o trabalho está em andamento”.

Meta, OpenAI, TikTok, Snapchat e X não responderam aos pedidos de comentário, enquanto LinkedIn e Pinterest preferiram não se manifestar oficialmente. Já Andrew Jenks, diretor-executivo da coalizão que administra o padrão, reforçou, em nota, que o público “precisa ter acesso” a detalhes sobre a produção de cada conteúdo e que o setor deve continuar aprimorando métodos para alcançar esse nível de transparência.

Situação atual e perspectivas

O teste sinaliza uma convergência de desafios técnicos, comerciais e regulatórios. Por um lado, as empresas têm interesse em barrar a desinformação e proteger a credibilidade de suas plataformas. Por outro, enfrentam a pressão de manter a experiência do usuário fluida, sem sobrecarregar servidores com dados adicionais e sem comprometer o engajamento com alertas que possam desestimular compartilhamentos.

Enquanto o debate persiste, a experiência prática demonstra que o público permanece sem ferramenta confiável para identificar vídeos ou fotos gerados por IA nas principais redes sociais. A menos que as operadoras de plataformas implementem, de forma consistente, mecanismos de preservação de metadados ou rotulagem clara, a responsabilidade de verificação segue recaindo sobre usuários individuais—um modelo que estudos já apontam como insuficiente frente à sofisticação das tecnologias de geração de conteúdo.