Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

インシデント 812: Deepfake Nudes Targeting Underage Female Students at Collège Béliveau in Winnipeg Shared Online

概要: At Collège Béliveau in Winnipeg, female students between grades 7-12 were targeted in the creation of deepfake nudes, which were then distributed online. Specific numbers and identities of victims and perpetrators were not released, and no charges were ultimately filed owing to the gap between existing laws and the nature of the incident.
Editor Notes: Reconstructing the timeline of events: Parents were notified of the incident on December 11, 2023. On February 14, 2024, police said no criminal charges would be laid in connection to the incident.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
Alleged: Unknown deepfake technology developers developed an AI system deployed by Unknown deepfake creators, which harmed Collège Béliveau students.

インシデントのステータス

インシデントID
812
レポート数
5
インシデント発生日
2023-12-11
エディタ
Daniel Atherton
Applied Taxonomies
MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

4.3. Fraud, scams, and targeted manipulation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Malicious Actors & Misuse

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

インシデントレポート

レポートタイムライン

Incident Occurrence+1
警察はウィニペグの高校生の「明らかに改変された」画像を捜査
偽の露骨な写真がソーシャルメディアに投稿された場合、カナダ人の選択肢は非常に限られている。ウィニペグの学校の女子生徒の偽ヌードをAIが生成し、ネットに投稿されたが、刑事告訴は行われなかったウィニペグの学生の露骨な AI 生成写真に容疑はかけられず | CTV ニュース
警察はウィニペグの高校生の「明らかに改変された」画像を捜査

警察はウィニペグの高校生の「明らかに改変された」画像を捜査

winnipegfreepress.com

ウィニペグの学校に通う女子生徒の偽のヌード写真がAIで生成され、オンラインに投稿される

ウィニペグの学校に通う女子生徒の偽のヌード写真がAIで生成され、オンラインに投稿される

cbc.ca

偽の露骨な写真がソーシャルメディアに投稿された場合、カナダ人の選択肢は非常に限られている。

偽の露骨な写真がソーシャルメディアに投稿された場合、カナダ人の選択肢は非常に限られている。

nationalpost.com

ウィニペグの学校の女子生徒の偽ヌードをAIが生成し、ネットに投稿されたが、刑事告訴は行われなかった

ウィニペグの学校の女子生徒の偽ヌードをAIが生成し、ネットに投稿されたが、刑事告訴は行われなかった

cbc.ca

ウィニペグの学生の露骨な AI 生成写真に容疑はかけられず | CTV ニュース

ウィニペグの学生の露骨な AI 生成写真に容疑はかけられず | CTV ニュース

winnipeg.ctvnews.ca

警察はウィニペグの高校生の「明らかに改変された」画像を捜査
winnipegfreepress.com · 2023
自動翻訳済み

市警察は、地元の高校でAIが生成した未成年の生徒のヌード写真が出回っているという報告を調査している。

ウィニペグ警察署の職員は、児童ポルノ捜査の一環として、水曜日にウィンザーパークにある7年生から12年生までの高校、コレージュ・ベリヴォーを訪問した。

これまでのところ、刑事告訴は行われていない。

「捜査はまだ初期段階であり、AIは複雑です。法律では、さまざまなニュアンスが今まさに開発されているところです」と、ウィニペグ警察署広報室のダニ・マッキノン巡査は述べた。

マッキノン巡…

ウィニペグの学校に通う女子生徒の偽のヌード写真がAIで生成され、オンラインに投稿される
cbc.ca · 2023
自動翻訳済み

コレージュ・ベリヴォーは、AIが生成した未成年生徒のヌード写真がウィニペグの学校で流通しているのが発見された後、人工知能のダークサイドに取り組んでいる。

木曜日の午後に保護者に送られた電子メールによると、学校当局は月曜日遅くに、7年生から12年生のフランス語イマージョンスクールの女子生徒の加工された写真がオンラインで共有されていることを知り、警察に連絡したとのこと。

「私たちは、この問題を指摘するために名乗り出た生徒に感謝し、誇りに思っています」と手紙には書かれている。

流通…

偽の露骨な写真がソーシャルメディアに投稿された場合、カナダ人の選択肢は非常に限られている。
nationalpost.com · 2024
自動翻訳済み

昨年12月、ウィニペグの学校コレージュ・ベリヴォーは、女子生徒の露骨な画像がオンラインで公開された件について調査中であると保護者に通知した。元の画像はソーシャルメディアのアカウントから盗用され、その後AIを使用してヌードに見えるように加工されていたようだ。

また昨年4月、ケベック州の男性がAI生成の合成児童ポルノを作成したとして懲役刑を受けた。スティーブン・ラルーシュは4月、いわゆるディープフェイク技術を使用して少なくとも7本の動画を作成した罪を認めた。ディープフェイク技術は…

ウィニペグの学校の女子生徒の偽ヌードをAIが生成し、ネットに投稿されたが、刑事告訴は行われなかった
cbc.ca · 2024
自動翻訳済み

警察によると、昨年末にウィニペグの学校で出回った未成年少女のAI生成ヌード写真に関する調査後、起訴は行われていないという。

ウィンザーパーク地区にある7年生から12年生のフランス語イマージョンスクール、コレージュ・ベリヴォーの女子生徒の加工された写真は、12月に生徒らが画像がオンラインで共有されていると通報したことを受けて学校当局によって発見された。

当時、学校は、元の写真は公開されているソーシャルメディアから収集され、その後人工知能を使用して明示的に改変されたようだと述べた…

ウィニペグの学生の露骨な AI 生成写真に容疑はかけられず | CTV ニュース
winnipeg.ctvnews.ca · 2024
自動翻訳済み

ウィニペグの高校生のAIが生成した露骨な写真がオンラインで出回った後、起訴は行われない。

ウィニペグ警察署(WPS)は、起訴しない決定の詳細を明らかにしなかった。しかし、警察は、一般的に言えば、証拠の問題、被害者が訴訟を起こさないこと、有罪判決の可能性が低いこと、AIが関与する犯罪のニュアンスなどがある可能性があると述べた。

このニュースは、CTVニュースウィニペグが以前、ルイ・リエル学区のコレージュ・ベリヴォーが、同校の生徒の一部が改ざんされた写真について名乗り出たと述べた…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

Selected by our editors

Fifty Bacchus Marsh Grammar girls targeted with AI fake nudes

Jun 2024 · 5 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Alleged Issues with Proctorio's Remote-Testing AI Prompted Suspension by University

University of Illinois to Discontinue Remote-Testing Software After Students Complain of Privacy Violation

Jan 2020 · 6 レポート
False Negatives for Water Quality-Associated Beach Closures

Safe for swimming? Toronto’s new tool for measuring water quality at its beaches is misleading, say advocates

Jun 2022 · 3 レポート
Uber AV Killed Pedestrian in Arizona

Tempe police release report, audio, photo

Mar 2018 · 25 レポート
前のインシデント次のインシデント

よく似たインシデント

Selected by our editors

Fifty Bacchus Marsh Grammar girls targeted with AI fake nudes

Jun 2024 · 5 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Alleged Issues with Proctorio's Remote-Testing AI Prompted Suspension by University

University of Illinois to Discontinue Remote-Testing Software After Students Complain of Privacy Violation

Jan 2020 · 6 レポート
False Negatives for Water Quality-Associated Beach Closures

Safe for swimming? Toronto’s new tool for measuring water quality at its beaches is misleading, say advocates

Jun 2022 · 3 レポート
Uber AV Killed Pedestrian in Arizona

Tempe police release report, audio, photo

Mar 2018 · 25 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 1420c8e