以下はレポートのエグゼクティブ サマリーのコピーです。レポートの全文をご覧になるには、OVIC が提供する PDF をダウンロードしてください。

エグゼクティブ サマリー

背景

2023 年 12 月、家族・公平・住宅省 (DFFH) は、情報コミッショナー事務所 (OVIC) にプライバシー インシデントを報告し、児童保護ワーカー (CPW1) が保護申請レポート (PA レポート) を作成する際に ChatGPT2 を使用していたことを説明しました。このレポートは、性犯罪…

ビクトリア州の家族・公平・住宅省（DFFH）は、児童保護担当者が児童裁判所に提出する報告書を作成するために ChatGPT を使用したことを受けて、さまざまな生成 AI ツールへのアクセスを禁止およびブロックするよう指示されました。

州の情報コミッショナーは、作成された報告書には「不正確な個人情報が含まれており、子供へのリスクを軽視している」と述べました。

「幸いにも、この件で子供の事件の結果は変わらなかったが、潜在的な危害が生じた可能性は容易に想像できる」とビクトリア州情報…

ビクトリア州家族・公平・住宅省（DFFH）の児童保護サービスは、職場で生成型人工知能を使用することを少なくとも1年間禁止されている。

この禁止措置は、Chat GPTを使用して子供のリスク評価を生成し、それを裁判所に提出したケースワーカーに対する調査で、グルーミング行為が肯定的な親のサポートと誤解されていたことが判明したことを受けて実施された。

生成型人工知能（GenAI）の規制されていない使用が継続的に拡大している最も真に衝撃的な例の1つとして、[ビクトリア州情報コミッショ…

ビクトリア州の児童保護機関は、職員がChatGPTに危険にさらされている子供の名前を含む大量の個人情報を入力したことが判明した後、職員に生成AIサービスの使用を禁止するよう命じられた。

家族・公平・住宅省は、保護申請報告書の作成中に職員がChatGPTを使用した疑いがあったため、昨年12月にビクトリア州情報コミッショナー事務所にこの件を報告した。

オヴィック氏によると、この報告書は、両親が性的犯罪で起訴された幼い子供に関する事件で児童裁判所に提出された。起訴は子供に対する犯罪…

ビクトリア州の児童保護機関は、ケースワーカーが ChatGPT を使用して児童保護報告書を作成したために機密データが提出され、多数の不正確な情報が生成されたことを受けて、AI ツールの使用を禁止するよう命じられました。

ビクトリア州情報コミッショナー事務所 (OVIC) は、ケースワーカーが ChatGPT を使用して保護申請報告書を作成した疑いがあることを家族・公平・住宅省 (DFFH) が発見した後、昨年 12 月にこの事件の報告を受けました。

この報告書は、性的犯罪の結…

ストーリーの内容

ビクトリア州の児童保護機関は、職員による生成型 人工知能 (AI) サービスの使用を禁止しました。この決定は、ある職員が、ChatGPT に、弱い立場にある子供の名前を含む大量の個人情報を入力したことが発覚した後に下されました。家族・公平・住宅省は、昨年 12 月にこの事件をビクトリア州情報コミッショナー事務所 (Ovic) に報告しました。

個人情報を含む報告書は、幼い子供が関与する事件で児童裁判所に提出されました。この子供の両親は、性的犯罪に関連した罪で…

州レベルのオーストラリア情報コミッショナーは、ビクトリア州の児童保護機関に対し、生成AIサービスの使用を停止するよう命令した。情報コミッショナーによると、機関のスタッフは、性犯罪者であるとされる両親と一緒に暮らし続けた場合に特定の子供が直面する可能性のあるリスクに関するレポートを作成するために、大量の個人情報をChatGPTに入力した。

情報コミッショナーの説明によると、スタッフはChatGPTを使用することで、子供へのリスクを軽視することになった。たとえば、レポートでは、父…