デロイト トーマツ オーストラリアは、雇用・職場関係省（DEWR）向けに、AIベースの自動化福祉システムに対する罰則の法的根拠に関する重要な報告書を作成しました。DEWRはデロイトに43万9000豪ドルを支払いました。[報告書、PDF; 入札]
しかし、デロイトは存在しない大量の参考文献を引用しました。
デロイトが引用した学者たちは、これに不満を抱いています。リサ・バートン・クロフォード教授は次のように述べています。[AFR]
私が発表した研究が、引用された主張をどのように裏付けているのか、必ずしも明確ではありませんでした。このように私の研究が引用されているのは懸念すべきことです。
参考文献の多くは明らかにチャットボットの偽物でした。タイトルや詳細は正しい形ではあったものの、実際には存在していなかったのです。クリス・ラッジ博士は次のように述べています。
AIの利用は、参考文献の性質に基づく強力な仮説であり、他に説明できるものはほとんどありません。誤ったタイトルを誤って入力することはまず考えられません。
デロイトは「当社の研究と報告書の調査結果を支持する」と述べ、「引用された各論文の内容は正確である」としています。デロイトはAIを使ったかどうかについては回答を避けた。
デロイトはオーストラリアン・ファイナンシャル・レビューに対し、訂正された参考文献のリストを提供した。しかし、これらの新たな参考文献は、当初の主張を裏付けるものではないことが判明した。[AFR]
チャットボットの不正使用者が摘発され、その後チャットボットに質問して訂正しようとすると、このような事態になる。これを愚かにも無能だとあなたは思うかもしれない。
オーストラリア連邦統計局（DEWR）は「これらの主張について調査を継続しており、デロイトに緊急の助言を求めている」。