インシデント 943: オーストラリア、ビクトリア州のグラッドストーン・パーク・セカンダリー・カレッジの生徒最大60名を被写体とした、同意のない露骨なAI生成画像が作成され、オンラインで拡散されたとの報道。
概要: オーストラリア・ビクトリア州のグラッドストーン・パーク・セカンダリー・カレッジで、最大60人の女子生徒の性的描写を含む画像がAIによって生成され、オンラインで拡散されたと報じられている。これらの画像は、学校の公式写真からAIツールを用いて加工され、同意のない性的描写を含むコンテンツが作成されたという。11年生の生徒2人が停学処分となったが、捜査が継続中のため、関与した生徒の全人数は明らかになっていない。
Alleged: Deepfake technology developers developed an AI system deployed by Two unidentified Year 11 students at Gladstone Park Secondary College と Students, which harmed Students , Up to 60 unnamed students at Gladstone Park Secondary College , Gladstone Park Secondary College students , Gladstone Park Secondary College , Families of Gladstone Park Secondary College students , high school students , Girls , Women と Educational communities.
関与が疑われるAIシステム: Deepfake technology
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
メルボルン北西部の学校の女子生徒の性的に露骨な AI 生成画像が多数ネット上に流出したことを受け、児童虐待担当刑事らが捜査を行っている。
フォークナー性犯罪・児童虐待捜査チーム (SOCIT) のサイモン・ガーナー刑事巡査部長は、影響を受ける生徒は最大 60 人に達する可能性があると述べた。
ビクトリア州警察は、グラッドストーン パーク中等学校の生徒の公式写真が多数デジタル加工され、公開されたことを木曜日の午後に知ったと述べた。
「非常に不快で、非常に卑劣な行為だと思います」…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデン トとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents