概要: スペイン、バレンシアの教育機関で、女子学生のディープフェイクヌード画像とされるものが、本人の同意なく拡散された。少なくとも16人の未成年者が、元の写真がデジタル加工され、完全に裸に見えるように加工されていたと報告しており、一部の画像は被害者名義のソーシャルメディアアカウントを通じて共有されていた。これらの画像の作成と配布は、スペインの未成年者保護に関する法律に基づき調査されている。
Editor Notes: Timeline notes: The reported incident occurred sometime in December 2024. Outlets began widely reporting on it on July 27, 2025.
Alleged: Image generator developers と Deepfake technology developers developed an AI system deployed by Unnamed student , Unnamed male student in Valencia と Unnamed male student, which harmed Unnamed students , Unnamed female students in Valencia , Unnamed female students , Girls , Minors , Students , Epistemic integrity と Educational communities.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
スペイン警察は日曜日、17歳の少女が人工知能（AI）を用いて女子生徒のヌード画像を偽造し、販売していた疑いで捜査を開始したと発表した。
捜査は、バレンシア地方の教育機関に通う16人の女子生徒が、AIによって生成された自分たちの画像がソーシャルメディアやインターネット上で出回っていると訴えたことを受けて開始された。
最初の訴えは12月に寄せられたもので、ある女子生徒は、自分の名前で開設されたソーシャルメディアアカウントに、AIによって生成された「全裸」の動画と偽造写真が投稿され…
Loading...
Loading...
マドリード、7月27日（ロイター） - スペイン警察は27日、17歳の少年が人工知能（AI）を用いて女子生徒のヌード画像を偽造し、販売していた疑いで捜査を開始したと発表した。
スペイン南東部バレンシアにある教育機関に通う女子生徒16人が、AIによって生成された自分たちの画像がソーシャルメディアやインターネット上で拡散されていると訴えた。
昨年12月、ある女子生徒が、自分の名前で開設されたソーシャルメディアアカウントに、AIによって生成された「全裸」の動画や偽造写真が投稿されて…
バ リアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents