カナダ政府の委託を受け、ある州に約160万ドルの費用をかけたデロイトのヘルスケアレポートには、AIが生成した可能性のある誤りが含まれていた。このコンサルティング会社のファクトチェックの不備を訴える国は今年2カ国目となる。
これらの誤りは、カナダ最東端のニューファンドランド・ラブラドール州を担当する進歩的なカナダの報道機関、インディペンデント紙が土曜日に発表した調査で発見され、5月に政府が公表した526ペ ージのレポートに記載されている。
この報告書は、当時の自由党政権の保健・コミュニティサービス省に対し、バーチャルケア、従業員維持のためのインセンティブ、そして州の医療部門が看護師と医師の人員不足に直面している時期に、COVID-19パンデミックが医療従事者に与える影響などについて助言するものでした。
デロイトの報告書には虚偽の引用が含まれており、費用対効果分析の結論を導き出すために架空の学術論文から引用されたり、実在の研究者が実際には関与していない論文を引用したりしていたことが、インディペンデント誌の調査で明らかになりました。また、共同研究をしたことがないと主張する研究者が共著した架空の論文も含まれていました。
デロイト カナダの広報担当者はフォーチュン誌への声明で、「デロイト カナダは、報告書で提示された勧告を断固として支持します。少数の引用を修正するために報告書を改訂していますが、これは報告書の結論には影響しません。AIは報告書の作成には使用されておらず、少数の研究引用を裏付けるために選択的に使用されたものです。」と述べています。
この長文の報告書には、カナダ呼吸療法ジャーナルに掲載された学術論文も引用されているが、同誌のデータベースで検索してもまだ見つからない。
「このような論文を書いているということは、論文作成にAIをかなり多用している可能性がある」と、ノバスコシア州ダルハウジー大学看護学部の非常勤教授、ゲイル・トンブリン・マーフィー氏はインディペンデント紙に語った。トンブリン・マーフィー氏は、デロイトが「存在しない」学術論文で引用 した。彼女はさらに、虚偽の引用で名前が挙がっている6人の著者のうち、実際に一緒に仕事をしたのは3人だけだと付け加えた。
「そして、確かに多くの課題があると思います。報告書の根拠となる証拠が最良の証拠であり、検証済みの証拠であることを、私たちは細心の注意を払って確認しなければなりません。そして、結局のところ、これらの報告書は、政府や国民に費用がかかるという理由だけでなく、正確で、証拠に基づき、物事を前進させるのに役立つものでなければなりません。」
月曜日の時点で、この報告書はカナダ政府のウェブサイトに掲載されています。
先週水曜日のブログ投稿に掲載された情報公開請求によると、カナダ政府はこの報告書に160万ドル弱を8回に分けて支出しました。
同州の進歩保守党党首であり、同州の新首相であるトニー・ウェイクハム氏は、10月下旬に就任宣誓を行いました。ニューファンドランド・ラブラドール州首相府と州保健コミュニティサービス省は、5月の報告書に関するフォーチュン誌のコメント要請に直ちには応じず、この問題について公に言及していない。
この発覚は、先月、デロイトが7月に発表した29万ドルの報告書でAIを活用したというニュースに続くものだ。しかし、ある研究者は、存在しない学術研究論文への言及や連邦裁判所の判決からの捏造された引用を含む、237ページに及ぶこの報告書に幻覚が含まれていると指摘した。
オーストラリア政府のウェブサイトにひっそりとアップロードされた改訂版調査報告書の中で、コンサルティング会社は報告書の作成にAI生成言語システム「Azure OpenAI」を使用したことを認めた。
デロイトは改訂版調査報告書のあるセクションで、「今回の改訂は、報告書の実質的な内容、調査結果、および勧告にいかなる影響も及ぼしません」と述べている。
デロイトのオーストラリアのメンバーファームは、政府に対し報告書の一部返金を義務付けられた。カナダの報告書の返金の可能性については、まだ情報が公開されていない。