德勤将部分退还澳大利亚政府 44 万美元,原因是其一份有缺陷的报告审查了福利系统的合规框架。这份报告由就业和劳工关系部 (DEWR) 委托,指出了该系统对“惩罚性假设”的依赖问题,并且缺乏规则与立法之间的明确联系。
报告发表后,发现了错误,包括捏造的参考文献和引用——被描述为人工智能的“幻觉”。德勤随后承认在报告撰写过程中使用了生成式人工智能(Azure OpenAI GPT-4o),但坚持认为核心发现和建议仍然有效。更新后的报告包括对参考文献的更正,并在附录中承认了人工智能的使用。
这起事件引发了批评,一位参议员指责德勤存在“人类智能问题”,并质疑昂贵的咨询工作与现成的 AI 工具的价值。虽然报告的结论与现有证据一致,但这些错误引发了对质量控制以及在政府咨询中负责任地使用人工智能的担忧。