Description: Sydney-based startup Leonardo AI's text-to-image generator was alleged to have been exploited to create nonconsensual sexual images of celebrities, bypassing content moderation systems with user-shared prompts.
Alleged: Leonardo AI developed an AI system deployed by Telegram community users , Reddit users と Leonardo AI users, which harmed public figures と celebrities.
インシデントのステータス
インシデントID
661
レポート数
1
インシデント発生日
2024-03-26
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
startupdaily.net · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
The text-to-image generator developed by Sydney startup Leonardo Ai has been used to create deepfake porn of celebrities.
Journalist Emanuel Maiberg at US tech news website 404 Media reported that they had used prompt suggestions for Leonar…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください