インシデント 1439: ニューオーリンズのイシドール・ニューマン・スクールの元教師が、生徒を含む少女たちのソーシャルメディアの写真からAIを使って偽のヌード画像を作成した疑い
レスポンスしました
概要: ルイジアナ州当局は、元イシドール・ニューマン・スクールの教師、ブノワ・クランサックがオンラインのAIプラットフォームを使って少女たちのソーシャルメディア上の写真を加工し、コラージュを含む偽のヌード画像を生成したと主張している。地元報道によると、彼は60件の違法なディープフェイク容疑で再逮捕され、捜査当局はそれらの画像の一部がニューオーリンズ地域の少女たちを描いたものだと考えており、後の報道では10代の少女や学生に言及している。
Alleged: Deepfake technology developers と Image generation technology developers developed an AI system deployed by Benoit Cransac, which harmed Isidore Newman School community , Girls from New Orleans , Girls , Epistemic integrity , Minors , Students と Educational communities.
関与が疑われるAIシステム: Image generation technology と Deepfake technology
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional