インシデント 943: オーストラリア、ビクトリア州グラッドストーン・パーク中等学校の生徒60名分の、AIが生成した露骨な画像が、合意なく作成され、オンラインで拡散されたと報じられている。
概要: オーストラリア、ビクトリア州グラッドストーン・パーク・セカンダリー・カレッジで、最大60名の女子生徒のAI生成による露骨な画像が作成され、オンライン上に拡散されたと報じられています。これらの画像は、AIツールを用いて正式な学校写真から改変され、合意のない露骨な内容が生成されたとされています。11年生2名が停学処分を受けましたが、捜査が継続中のため、関与した生徒の全数は不明です。
Alleged: Unknown deepfake technology developer developed an AI system deployed by Two unidentified Year 11 students at Gladstone Park Secondary College, which harmed Up to 60 unnamed students at Gladstone Park Secondary College , Gladstone Park Secondary College students , Families of Gladstone Park Secondary College students と Gladstone Park Secondary College.
関与が疑われるAIシステム: Unknown deepfake app
インシデントのステータス
インシデントID
943
レポート数
1
インシデント発生日
2025-02-20
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
メルボルン北西部の学校の女子生徒の性的に露骨な AI 生成画像が多数ネット上に流出したことを受け、児童虐待担当刑事らが捜査を行っている。
フォークナー性犯罪・児童虐待捜査チーム (SOCIT) のサイモン・ガーナー刑事巡査部長は、影響を受ける生徒は最大 60 人に達する可能性があると述べた。
ビクトリア州警察は、グラッドストーン パーク中等学校の生徒の公式写真が多数デジタル加工され、公開されたことを木曜日の午後に知ったと述べた。
「非常に不快で、非常に卑劣な行為だと思います」…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents