概要: ペンシルベニア州バックス郡の当局は、ある中学生がAIを活用したツールを使用して、クラスメートを描写した性的ディープフェイク画像を作成した疑いがあると報告しました。2025年3月に発生したとされるこの事件では、生徒の同意なしに生成された画像が使用されており、地元警察と地方検事局が捜査を行っています。この行為は、特に未成年者を対象とする、同意のないAI生成の性的画像を扱うペンシルベニア州の新法に該当する可能性があります。
Editor Notes: The incident date of 03/15/2025 is approximate. It reportedly occurred sometime in March 2025.
Alleged: Image generator developers と Deepfake technology developers developed an AI system deployed by Unnamed middle school student in Pennsylvania と Students, which harmed Students , Unnamed middle school students in Pennsylvania , Minors , Epistemic integrity , Middle school students と Educational communities.
関与が疑われるAIシステム: Image generation technology と Deepfake technology
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
ニュータウン郡警察とバックス郡地方検事局は、ある中学生がAI技術を用いてクラスメートのポルノ画像ディープフェイクを作成したという疑惑について捜査を行っている。
この事件は3月にニュータウン中学校の生徒が関与したと報じられている。容疑に詳しい関係者によると、未成年の少女12人の画像が偽のヌード画像の作成に使用されたという。
これらの画像が他者と共有されたか、オンラインで入手可能だったかは現時点では不明である。
カウンシルロック学区の広報担当者、アンドレア・マンゴールド氏は、ニュ…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデック スするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents