ChatGPT cita Grokipedia em respostas e reacende debate sobre confiabilidade de fontes em IA

ChatGPT cita Grokipedia em uma série de respostas produzidas pela versão GPT-5.2, segundo testes realizados por um veículo britânico, levando pesquisadores a questionarem a segurança do modelo diante de possíveis fontes de baixa credibilidade.

ChatGPT cita Grokipedia: como o caso veio à tona

O fato central envolve o ChatGPT, atualmente em sua versão GPT-5.2. Durante experimentos conduzidos por um jornal do Reino Unido, o assistente de IA mencionou a Grokipedia como referência em nove respostas diferentes. As menções apareceram quando o sistema foi interrogado sobre temas sensíveis relacionados à política iraniana, ao negacionismo do Holocausto e a biografias de personalidades acadêmicas. O levantamento incluiu pouco mais de uma dúzia de perguntas, revelando que uma parcela relevante das soluções geradas pelo modelo recorreu a esse repositório de informações alimentado por inteligência artificial.

Por que a Grokipedia preocupa especialistas

Lançada em outubro pela xAI, empresa de Elon Musk, a Grokipedia nasceu com a intenção declarada de competir com a Wikipedia. Entretanto, sua metodologia difere radicalmente: não há edição direta por seres humanos. Um sistema automatizado redige o verbete inicial e também avalia solicitações de correção ou atualização. Pesquisadores de desinformação apontam que esse processo pode cristalizar vieses já existentes no treinamento algorítmico, transformando a enciclopédia em um canal que repete e amplia visões parciais sobre temas políticos, sociais ou científicos.

Entre as críticas catalogadas, constam exemplos envolvendo o casamento entre pessoas do mesmo sexo, a invasão do Capitólio dos Estados Unidos em 6 de janeiro e outras pautas polarizadas. Segundo os analistas, o ambiente fechado de edição dificulta a revisão comunitária típica da Wikipedia, tornando mais lenta ou mesmo inviável a correção de erros.

ChatGPT cita Grokipedia em questões sobre política iraniana

Nos testes relatados, o ChatGPT mencionou a Grokipedia ao falar sobre a estrutura de poder no Irã. O modelo apresentou dados sobre salários da força paramilitar Basij, a propriedade da Fundação Mostazafan e a suposta ligação da operadora MTN-Irancell com o gabinete do líder supremo iraniano. Em ao menos um desses tópicos, a resposta do GPT-5.2 foi descrita como “mais enfática” do que o material equivalente disponível na Wikipedia, sugerindo vínculos diretos entre a empresa de telecomunicações e autoridades do alto escalão iraniano.

No universo acadêmico, a enciclopédia da xAI também surgiu como base para informações sobre Sir Richard Evans, historiador britânico conhecido por atuar como perito em um processo de difamação envolvendo um notório negacionista do Holocausto. A repetição desses dados, sem validação cruzada, gerou receio de que afirmações peripherais ou incompletas possam ganhar peso extra ao serem veiculadas por um sistema amplamente utilizado.

Resposta da OpenAI e mecanismos de filtro

Diante da revelação de que o ChatGPT cita Grokipedia, um porta-voz da OpenAI declarou que a ferramenta de busca integrada ao modelo foi concebida para recorrer a uma diversidade de fontes disponíveis publicamente. A empresa informa empregar filtros de segurança voltados a barrar links associados a danos graves e manter programas contínuos de remoção de conteúdo considerado de baixa confiabilidade ou fruto de campanhas de influência.

Ainda de acordo com a plataforma, o processo de atualização desses filtros é permanente, mas a identificação de novos domínios problemáticos pode levar tempo. Enquanto isso, as respostas geradas podem expor usuários a trechos que, embora não violem diretrizes explícitas, carecem de verificação robusta.

Riscos de LLM grooming e casos similares em outros modelos

O episódio insere-se em um contexto mais amplo descrito por pesquisadores como LLM grooming. A prática consiste em inundar a internet com grandes quantidades de desinformação ou narrativas tendenciosas, com o objetivo de influenciar o corpus de treinamento dos modelos de linguagem de grande porte. Ao absorver esse material, a IA pode acabar reproduzindo ou amplificando a mensagem original.

Na primavera do ano passado, especialistas em segurança digital já haviam alertado para operações coordenadas voltadas a esse tipo de manipulação. Mais recentemente, o Congresso dos Estados Unidos analisou exemplos em que o Gemini, do Google, repetiu posicionamentos atribuídos ao governo chinês sobre violações de direitos humanos em Xinjiang e sobre políticas de combate à Covid-19. Esses antecedentes reforçam a preocupação de que ferramentas de IA generativa se tornem vetores involuntários de propaganda ou informação distorcida.

Impacto na percepção pública de confiabilidade

Para estudiosos da área, a simples citação de uma enciclopédia de reputação contestada pode conferir autoridade indevida ao conteúdo. Uma pesquisadora de desinformação relatou já ter sido vítima de uma citação fictícia publicada por um grande veículo de imprensa. Mesmo após a correção oficial, modelos de IA continuaram reproduzindo a frase durante algum tempo, demonstrando a dificuldade de erradicar erros uma vez que eles entram no circuito de treinamento ou de busca na web.

Nesse cenário, usuários que consultam o ChatGPT podem não possuir os meios ou a disposição de verificar cada referência. Assim, a cadeia de confiança desloca-se do conteúdo original para o sistema que o apresenta, tornando essencial o rigor na curadoria de fontes.

Diferenças estruturais entre Grokipedia e Wikipedia

Além do modelo editorial fechado, outras características separam a Grokipedia da Wikipedia. A fundação sem fins lucrativos que mantém a Wikipedia opera sob licenças abertas, permitindo auditoria extensiva de edições, discussão comunitária e rastreamento de contribuições individuais. Qualquer internauta pode sugerir mudanças e participar do debate sobre verificabilidade.

Na Grokipedia, o processo concentra-se em um agente automatizado que sintetiza informações e avalia pedidos de modificação. Ainda que existam formulários para contestação de dados, a ausência de discussão pública transparente limita a pluralidade de vozes na construção do verbete. Esse arranjo, apontam observadores, potencializa a fixação de perspectivas únicas e dificulta a correção de equívocos.

Reações de outras empresas envolvidas

Questionada sobre casos em que o seu modelo Claude teria dependido da Grokipedia, a desenvolvedora Anthropic não enviou resposta. Por sua vez, a xAI defendeu a enciclopédia, afirmando que veículos de comunicação estabelecidos não são dignos de confiança. A declaração reforça o embate entre plataformas de IA e empresas de mídia tradicional, que disputam o espaço de autoridade e o modelo de governança da informação digital.

Próximos passos no monitoramento da integração de fontes

A partir da descoberta de que o ChatGPT cita Grokipedia em tópicos de baixa visibilidade, pesquisadores devem intensificar o acompanhamento de como grandes modelos de linguagem selecionam e exibem referências. Ao mesmo tempo, espera-se que desenvolvedores ajustem filtros de segurança e revisem rotinas de verificação a fim de mitigar a propagação indireta de conteúdo pouco confiável.

As discussões sobre transparência de dados de treinamento e sobre mecanismos de auditoria externa permanecem na pauta da comunidade de IA, indicando que novos relatórios e possíveis audiências legislativas podem ocorrer nos próximos meses.