Deloitte reembolsa governo da Austrália após falhas de IA

Deloitte reembolsa governo da Austrália depois que um relatório produzido com auxílio de inteligência artificial apresentou referências inexistentes e citações jurídicas inventadas. O documento, entregue ao Departamento de Emprego e Relações de Trabalho, custou US$ 290 mil (cerca de R$ 1,5 milhão) e passou por revisão completa após as falhas serem expostas.

A auditoria contratada no fim de 2024 avaliava o sistema que automatiza penalidades a beneficiários de um programa social. Em julho, a primeira versão foi publicada e, logo depois, o pesquisador da Universidade de Sydney Chris Rudge identificou múltiplas inconsistências atribuídas às chamadas “alucinações de IA”.

Deloitte reembolsa governo da Austrália após falhas de IA

Entre os erros apontados estavam a menção a um livro inexistente atribuído à professora Lisa Burton Crawford, duas referências fictícias ao acadêmico sueco Björn Regnell, uma citação inventada sobre decisão de tribunal australiano e a grafia incorreta do nome da juíza envolvida no caso. Ao revista Fortune, Rudge disse ter reconhecido de imediato que se tratava de conteúdo fabricado por IA.

Pressionada, a Deloitte confirmou o uso parcial de ferramentas de inteligência artificial na elaboração das 237 páginas do relatório. Após revisar todo o material, a consultoria republicou uma versão corrigida em 3 de outubro, mantendo as recomendações originais, segundo nota do departamento responsável.

Como medida de reparação, a empresa concordou em devolver a última parcela do contrato. O órgão não revelou o montante exato, mas o reembolso representa apenas parte dos US$ 290 mil pagos pelo serviço. O contrato mais amplo entre as partes, assinado em 2021, soma US$ 25 milhões (R$ 133,8 milhões) e ainda não teve futuro definido após o incidente.

A polêmica reacende o debate sobre transparência no uso de IA em documentos oficiais. Especialistas defendem que empresas detalhem metodologias e realizem checagens humanas rigorosas para evitar que “alucinações” comprometam a credibilidade de análises técnicas.

Para acompanhar outras repercussões sobre inteligência artificial no setor público, confira nossa editoria dedicada em Inteligência Artificial e fique por dentro das tendências que moldam a tecnologia. Imagem: gpoinstudio/Getty Images