レポート 4139

ストーリーの内容

ビクトリア州の児童保護機関は、職員による生成型 人工知能 (AI) サービスの使用を禁止しました。この決定は、ある職員が、ChatGPT に、弱い立場にある子供の名前を含む大量の個人情報を入力したことが発覚した後に下されました。家族・公平・住宅省は、昨年 12 月にこの事件をビクトリア州情報コミッショナー事務所 (Ovic) に報告しました。

個人情報を含む報告書は、幼い子供が関与する事件で児童裁判所に提出されました。この子供の両親は、性的犯罪に関連した罪で起訴されていましたが、これらの罪は子供に直接関係するものではありませんでした。オービックの事件調査では、非標準的な言語や不適切な文構造など、報告書の作成に ChatGPT が使用されたことを示すいくつかの兆候が明らかになった。

オービックの報告書では、児童保護報告書の一部に不正確な個人情報が含まれていたことが強調された。懸念される例としては、父親が性的目的で使用したと報告された子供の人形の虚偽の記載がある。AIシステムはこれを、「年齢相応のおもちゃ」を提供しようとする両親の努力の良い面だと説明した。この ChatGPT の誤用は、子供への潜在的な危害の深刻さを軽視するものとみなされ、子供の世話に関する決定に影響を与える可能性があった。

オービックは、情報を ChatGPT に入力することは、部門の管理下にある情報の不正な開示に当たると述べた。その後の調査で、従業員は児童保護関連の文書を作成する際に 100 件のケースで ChatGPT を使用した可能性があることが明らかになった。 2023年7月から12月の間に、約900人の従業員がChatGPTウェブサイトにアクセスし、従業員の約13％を占めました。しかし、これらの事例はいずれも、最初の報告書ほど重大な影響を及ぼしていないことが判明しました。

従業員は、「時間を節約し、仕事をよりプロフェッショナルに提示するため」にChatGPTを使用してレポートを作成したことを認めましたが、個人情報を入力したことは否定しました。しかし、同僚は、この人物がツールにクライアント名を入力してChatGPTの使用方法を他の人に示していたと述べています。これらの証言に基づいて、Ovicは、従業員が実際にシステムに個人情報を入力した可能性が高いと結論付けました。

この事件に対応して、Ovicは、ChatGPT、Gemini、Meta AI、Copilotなどのいくつかの生成AIウェブサイトのIPとドメインをブロックすることを含む命令を部門に発行しました。このブロックは11月5日から2年間実施される予定である。同局はこれらの調査結果を受け入れ、命令を実施すると述べた。また、関係する従業員はもはや同局に雇用されていないことも確認した。