関連インシデント
ビクトリア州の児童保護機関は、職員がChatGPTに危険にさらされている子供の名前を含む大量の個人情報を入力したことが判明した後、職員に生成AIサービスの使用を禁止するよう命じられた。
家族・公平・住宅省は、保護申請報告書の作成中に職員がChatGPTを使用した疑いがあったため、昨年12月にビクトリア州情報コミッショナー事務所にこの件を報告した。
オヴィック氏によると、この報告書は、両親が性的犯罪で起訴された幼い子供に関する事件で児童裁判所に提出された。起訴は子供に対する犯罪とは関係がなかった。
火曜日に発表されたOvicの調査報告書で 、コミッショナーのショーン・モリソン氏は、報告書全体を通じてChatGPTが使用されたことを示す複数の兆候があることを発見した。これには、児童保護ガイドラインで標準とされていない言語の使用や不適切な文構造などが含まれる。
「さらに重要なのは、報告書の一部に正確でない個人情報が含まれていたことです」と報告書は述べている。
「特に懸念されるのは、報告書が、子供の父親が性的目的で使用していたと児童保護に報告された子供の人形を、親が子供の発達ニーズを「年齢に適したおもちゃ」でサポートする努力の顕著な強みとして説明していたことです。」
オヴィック氏は、ChatGPTの使用は、児童に対する実際のまたは潜在的な危害の重大さを軽視する効果があり、児童の保護に関する決定に影響を与える可能性があると述べた。
しかし、報告書は児童保護機関または裁判所の意思決定を変えなかったとも述べた。
オヴィック氏は、ChatGPTに情報を入力することは、同省の管理下にある情報の不正な開示であったと述べた。
同省によるChatGPTの使用についてさらに調査した結果、職員が児童保護関連の文書を作成する際に100件のケースでChatGPTを使用した可能性があること、および2023年7月から12月までに同省全体で約900人の職員がChatGPTのWebサイトにアクセスし、従業員の約13％を占めていることがわかった。
オヴィック氏は、他の使用法はいずれも最初の報告書と同じ潜在的な影響を及ぼさないことを発見した。
職員は、「時間を節約し、仕事をより専門的に提示するため」に報告書を作成するためにChatGPTを使用したことを認めたが、個人情報を入力したことは否定した。
同僚によると、問題の労働者は「ChatGPT の使用を他の人に見せ、コンテンツを作成するためにクライアントの名前をツールに入力していた」という。
オヴィックは、可能性のバランスから判断して、労働者が個人情報を入力したと判断した。
規制当局は、ChatGPT、Meta AI、Gemini、Copilot など、さまざまな生成 AI ウェブサイトの IP とドメインをブロックするなどの命令を同省に出した。ブロックは 11 月 5 日から 2 年間実施される。
これに対し、同省は調査結果を受け入れ、命令の実施に取り組むと述べた。同省は、労働者を雇用していないと述べた。
オヴィックは、将来的に生成 AI を使用する可能性を残したが、リスク環境は変化する必要があり、児童保護には高いハードルとなるだろうと述べた。
「副長官は、リスクが他のものより低い特定の使用例があるかもしれないと考えているが、児童保護は、その性質上、非常に高いレベルのケアを必要とする」とオヴィックは述べた。
「児童保護スタッフ、情報、または活動に関連する特定の措置を変更する申請には、最高水準の検証可能な証拠を添付する必要がある。」