Resumo

• A Deloitte entregou um relatório a um governo do Canadá com citações acadêmicas inexistentes e atribuições erradas, usando IA para embasar o conteúdo.
• A empresa admitiu falhas na verificação dos dados, mas defendeu as recomendações do relatório e prometeu revisar o documento e melhorar práticas de governança de IA.
• O governo da província de Terra Nova e Labrador manteve o relatório no site oficial e solicitou revisão das diretrizes para evitar falhas futuras.

A consultoria Deloitte, uma das maiores do mundo, está novamente envolvida em polêmica sobre o uso irresponsável de inteligência artificial. A empresa entregou um relatório com citações e estudos acadêmicos que não existem ao setor público do Canadá.

De acordo com o The Independent, o material de 526 páginas possui referências bibliográficas fabricadas para embasar análises de custo-efetividade e estratégias de retenção pessoal. O documento custou 1,6 milhões de dólares canadenses (cerca de R$ 6 milhões) ao governo da província de Terra Nova e Labrador.

A Deloitte tentou minimizar o uso da tecnologia. Num comunicado emitido nesta terça (25), ela disse que não usou IA para escrever o relatório completo, mas apenas para embasar o conteúdo em “um pequeno número de citações de pesquisa”.

As invenções da IA

O relatório deveria fornecer base técnica para retenção de médicos e enfermeiros, além de estratégias de atendimento virtual. No entanto, para embasar análises de custo-efetividade e incentivos financeiros, o texto citou artigos acadêmicos que não existem.

Além disso, o documento listava estudos e os atribuía a pesquisadores sem vínculo na vida real, indicando alucinação de IA — quando a ferramenta inventa informações e as utiliza nas respostas como se fossem verdade. Entre elas, a revista científica Canadian Journal of Respiratory Therapy, que declarou não ter sido consultada durante a elaboração do documento e que desconhece a origem dos dados.

A investigação apontou que, em pelo menos dois casos, a Deloitte citou pesquisadores de verdade como autores dos artigos inexistentes. Alguns desses acadêmicos confirmaram que sequer trabalharam juntos, muito menos produziram o estudo mencionado.

Deloitte defende resultados

Apesar de admitir a falha na verificação dos dados, a Deloitte adotou uma postura de defesa do produto final. A empresa declara que “mantém firmemente as recomendações apresentadas no relatório”.

A consultoria prometeu revisar o documento e fazer “um pequeno número de correções de citação”, alegando que os erros não impactam no resultado. Disse também que vai evoluir as práticas de governança em torno do uso de IA.

Até o momento, o governo da província manteve o relatório “Plano de Recursos Humanos em Saúde” no site oficial. O gabinete do primeiro-ministro de Terra Nova e Labrador, Tony Wakeham, informou apenas que solicitou uma revisão das diretrizes para impedir que falhas do tipo voltem a ocorrer em contratos futuros, sem comentar possíveis sanções.

Erro vem se repetindo

A ocorrência no Canadá repete outra gafe cometida pela mesma consultoria há apenas um mês na divisão australiana da empresa. Lá, um relatório de US$ 290 mil (R$ 1,5 milhão) sobre fraudes previdenciárias também foi flagrado contendo citações acadêmicas inexistentes.

Naquela ocasião, a Deloitte admitiu ter utilizado o sistema Azure OpenAI, da Microsoft, para auxiliar na criação do conteúdo. Por lá, no entanto, a Deloitte concordou em reembolsar parcialmente o governo pelo trabalho mal feito.

Consultoria passa vergonha novamente com inteligência artificial

Resumo

• A Deloitte, uma das principais empresas de consultoria do mundo, usou IA em um relatório para o governo australiano.
• O documento avaliado em AU$ 439 mil teve citações fictícias e foi corrigido após críticas e investigação interna.
• A empresa acordou um reembolso parcial, e o governo não pagará a última parcela do contrato.

A gigante da consultoria Deloitte vai renunciar parte de um pagamento avaliado em AU$ 439.000 (pouco mais de R$ 1,5 milhão, na cotação atual). O motivo? A entrega de um relatório para o governo da Austrália com vários erros atribuídos ao uso de inteligência artificial, incluindo citações e referências falsas.

Em dezembro do ano passado, o Departamento de Emprego e Relações de Trabalho (DEWR) contratou a empresa para auditar e revisar um sistema que aplica penalidades automáticas a beneficiários de programas de emprego.

Segundo o jornal Financial Review, um relatório inicial foi publicado em julho deste ano, mas menos de um mês depois suas imprecisões foram expostas por um acadêmico da Universidade de Sydney, o Dr. Christopher Rudge.

O acadêmico levantou a hipótese de que os erros poderiam ser “alucinações” de IA — fenômeno no qual a tecnologia inventa informações para responder a consultas. Após a denúncia, a Deloitte iniciou uma investigação e publicou uma versão corrigida do relatório na última semana.

O texto revisado revela que parte da análise inicial “incluiu o uso de ferramentas de IA generativa (GPT-4o)”. O governo afirma que as recomendações do documento não foram alteradas, mas o incidente expôs os riscos do uso crescente, e por vezes não supervisionado, da IA em serviços técnicos.

“Alucinações”, erros e citações falsas

O documento original continha mais de uma dúzia de referências e notas de rodapé incorretas. Entre as mais notáveis estavam citações a dois relatórios fictícios da professora Lisa Burton Crawford, da Universidade de Sydney, e outras duas referências a um trabalho inexistente do professor Björn Regnell, da Universidade de Lund, na Suécia. Além disso, o documento inventou uma citação sobre uma decisão do Tribunal Federal australiano e até errou a grafia do nome da juíza do caso.

Ao Financial Review, o acadêmico Chris Rudge — que identificou os erros — criticou a gravidade das falhas após a admissão da consultoria. Para ele, a credibilidade de todo o trabalho ficou comprometida. “Não se pode confiar nas recomendações quando a própria base do relatório é construída sobre uma metodologia falha”, afirmou.

Reembolso parcial do contrato

Um porta-voz do DEWR confirmou um acordo para o não pagamento da última parcela do relatório. O valor exato, no entanto, não foi revelado. O departamento governamental também não confirmou se considera buscar um reembolso total dos valores.

A Deloitte é considerada uma das principais empresas de consultoria do mundo e enfatiza em suas diretrizes a necessidade de supervisão humana em resultados gerados por IA, prática que parece ter falhado neste caso.

O caso ocorre em um momento de crescente preocupação com o uso apressado e não regulamentado de IA no ambiente de trabalho.

Grandes consultorias e governos estão em uma corrida para integrar a tecnologia em seus processos para aumentar a eficiência. Em junho, o governo do Reino Unido testou a IA Copilot, da Microsoft, com 20 mil servidores públicos.

No mesmo mês, o órgão de fiscalização contábil do país alertou que ferramentas automatizadas podem impactar a qualidade de futuras auditorias, segundo o Financial Times.

Com informações do Financial Review

Auditoria usa IA, passa vergonha e devolve dinheiro de projeto