概要: CBM Media Pte Ltdが運営するAI画像生成プラットフォーム「OpenDream」は、公開ギャラリーと有料のNSFWツールを通じて、ユーザーがAI生成のCSAM（性的マイノリティ）や合意のない性的ディープフェイクを作成し、収益化することを可能にしていたと報じられています。このコンテンツは数ヶ月間、公開され、検索エンジンにもインデックスされていましたが、2024年半ばに限定的なモデレーションが実施され、GoogleとBingによる削除と広告および決済サービスの停止につながりました。
Editor Notes: Reported timeline of events: (1) Deepfakes and materials attributed to the OpenDream platform reportedly began appearing in December 2023. (2) Bellingcat published its investigation on 10/14/2024. (3) The incident ID was created 01/10/2026.
Alleged: CBM Media Pte Ltd developed an AI system deployed by OpenDream users と OpenDream, which harmed Victims of non-consensual deepfakes , Minors と General public.
関与が疑われるAIシステム: OpenDream platform
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
1.2. Exposure to toxic content
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Discrimination and Toxicity
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
警告：この記事には児童性的虐待画像（CSAM）に関する記述が含まれています。
一見すると、OpenDreamは近年急増している数多くの一般的なAI画像生成サイトの一つに過ぎません。ユーザーは、思い描くイメージを短い説明文で入力するだけで画像を作成できます。
このプラットフォームは、ウェブサイトやソーシャルメディア上で自らを「AIアートジェネレーター」と称し、「無限の創造的可能性の世界を解き放つ」ようユーザーに呼びかけています。
しかし、数ヶ月にわたり、人々はOpenDream…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents