インシデント 1397: ディープフェイクがデイビッド・テイラー＝ロビンソン氏をはじめとする英国の健康専門家を装い、ウェルネス・ネスト・サプリメントを宣伝していたと報じられている。
概要: 英国では、TikTokなどのプラットフォーム上で、デイビッド・テイラー＝ロビンソン教授をはじめとする健康専門家を装ったディープフェイク動画が拡散され、Wellness Nest関連のサプリメントを宣伝していたと報じられています。これらの動画は、実際の映像を改変し、クローン音声を複製することで、更年期に関する誤解を招くような医学的主張を広め、個人を特定できる肖像を悪用し、健康に関するアドバイスを求める視聴者を健康に関する誤情報や欺瞞的なマーケティングにさらしていたとされています。
Alleged: Deepfake technology developers と Synthetic audio generation technology developers developed an AI system deployed by Scammers と Scammers impersonating David Taylor-Robinson, which harmed David Taylor-Robinson , Epistemic integrity , Women seeking menopause advice と People seeking medical advice.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
TikTokなどのソーシャルメディアプラットフォームでは、医師の発言がAIによって操作され、サプリメントの販売促進や健康に関する誤情報の拡散に利用されている。
ファクトチェック機関Full Factは、このような動画を数百本発見した。これらの動画では、医師やインフルエンサーのなりすましが、視聴者を米国のサプリメント会社Wellness Nestに誘導している。
これらのディープフェイク動画はすべて、インターネットから取得した健康専門家の実際の映像を使用している。しかし、画像と…
Loading...
新たな調査により、公衆衛生上の脅威が深刻化していることが明らかになりました。それは、AIが生成したディープフェイク動画が、本物の医師になりすまして健康に関する誤情報を拡散し、ソーシャルメディア上で効果が証明されていないサプリメントを販売しているというものです。ファクトチェッカーは、著名な医療専門家の映像を改ざんした数百もの動画を発見しました。これらの動画は、更年期障害などの症状をターゲットにした製品を宣伝し、人々の信頼を損ない、医療専門家の権威を悪用しています。
こうしたコン…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初 に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
