レポート 6264

調査の結果、家族・公平・住宅省は個人情報の正確性を確保し、個人情報を不正開示から保護するための合理的な措置を講じていなかったことが判明しました。

OVIC（オーストラリア連邦児童保護委員会）は、家族・公平・住宅省（DFFH）の児童保護担当者によるChatGPTの使用に関する調査報告書を公開しました。この事例では、担当者は保護申請報告書（PA報告書）を作成する際に、生成型人工知能（GenAI）ツールであるChatGPTを使用していました。PA報告書は、児童の保護の必要性を判断するための情報として児童裁判所に提出されます。

調査の結果、以下のことが判明しました。

• ChatGPTによって生成され、その後児童保護担当者がPA報告書の作成に使用したコンテンツには、不正確な個人情報が含まれていました。これは、当該ケースの児童へのリスクを軽視するものでした。
• 児童保護担当者は、氏名や児童に関するリスク評価に関する情報など、大量の個人情報と機密情報をChatGPTに入力しました。これにより、担当者はこれらの情報を海外企業であるOpenAIに開示し、DFFHの管理下にない場所に流出させました。

副長官は、DFFHが実施していた管理体制は、児童保護の文脈におけるGenAIツールの使用に関連するリスクを管理するには不十分であると判断しました。彼女は、DFFHが個人情報の正確性を確保し、個人情報を不正開示から保護するための合理的な措置を講じなかったため、IPP 3.1および4.1に違反したと結論付けました。

DFFHは調査報告書の調査結果を受け入れ、報告書に記載されている是正措置を実施する必要があります。

副コミッショナーは、DFFHに対し、IPP 3.1および4.1への準拠を確保するため、コンプライアンス通知を発行しました。この通知では、DFFHが児童保護従事者によるChatGPTなどの類似ツールの使用をブロックすることを含む、6つの具体的な措置が概説されています。

調査報告書全文はこちらでご覧いただけます。

ビクトリア州情報コミッショナー、ショーン・モリソン氏の発言：

この事例は、GenAIの利用には有益な場合もある一方で、非常に機密性の高い情報が関係する場合など、プライバシーリスクがあまりにも大きい状況が存在することを示しています。

したがって、私はすべての組織に対し、従業員が様々な機能や活動を通じてGenAIを使用することに伴うリスクを評価することを推奨します。 IPPに基づく義務に従い、組織はこれらのリスクを軽減するための適切な管理策を講じる必要があります。