レポート 4138

ビクトリア州の児童保護機関は、ケースワーカーが ChatGPT を使用して児童保護報告書を作成したために機密データが提出され、多数の不正確な情報が生成されたことを受けて、AI ツールの使用を禁止するよう命じられました。

ビクトリア州情報コミッショナー事務所 (OVIC) は、ケースワーカーが ChatGPT を使用して保護申請報告書を作成した疑いがあることを家族・公平・住宅省 (DFFH) が発見した後、昨年 12 月にこの事件の報告を受けました。

この報告書は、性的犯罪の結果家族が変わった子供に関する事件で児童裁判所で使用されました。

現在、OVIC は、DFFH が子供の個人データを保護し、正確な報告を確実にするために「適切な措置を講じなかった」と判断しています。

子供の結果は変わりませんでしたが、ChatGPT に「大量の個人情報と機密情報」が入力されたと判断されました。つまり、DFFH の管理外で OpenAI に開示されたということです。

また、報告書には「事件の子供へのリスクを軽視する」不正確なデータが含まれていたことも判明した。

「特に懸念されるのは、報告書では、子供の父親が性的目的で使用していたと児童保護局に報告された子供の人形が、親が子供の発達ニーズを『年齢相応のおもちゃ』でサポートする努力の顕著な強みとして記述されていたことだ」とビクトリア州の情報コミッショナー、ショーン・モリソン氏は述べた。

調査では、報告書にChatGPTが使用された可能性があることを示すいくつかの点が浮き彫りになった。最終的に、職員は「時間を節約し、仕事をより専門的に提示するため」に報告書にChatGPTを使用したことを認めた。職員は機密データを提出したことは認めなかった。

OVICはさらに同省を調査し、保護関連文書の作成にChatGPTが使用された可能性がある100件の事例を発見した。

さらに、2023年7月から12月にかけて、約900人の職員（同省職員の約13％）がChatGPTにアクセスしたことが判明した。

調査結果を受けて、OVIC は DFFH に対し、ChatGPT のような生成 AI ツールの使用を事実上禁止するよう命じ、生成 AI ウェブサイトへのアクセスをブロックするよう同省に義務付けました。ブロックは 11 月 5 日から 2 年間続きます。

OVIC はテクノロジーの使用を完全に排除したわけではありませんが、このテクノロジーは特に脆弱な子供の安全を確保するために使用する必要があります。

「副長官は、リスクが他のケースよりも低い特定の使用例があるかもしれないと考えていますが、児童保護は、その性質上、非常に高いレベルの注意が必要です」と OVIC は述べています。

「児童保護スタッフ、情報、または活動に関する特定のアクションを変更する申請には、最高レベルの検証可能な証拠が伴う必要があります。」

西シドニーの中心部で生まれたダニエル・クロフトは、テクノロジー分野を理解し、執筆経験を持つ情熱的なジャーナリストです。マッコーリー大学で学んだ後、2022年にMomentum Mediaに入社し、Australian Aviation、Cyber Security Connect、Defence Connectなど、数多くの出版物で執筆活動を行っています。執筆活動以外では、ダニエルは音楽に強い関心があり、シドニー周辺でバンド活動に時間を費やしています。