概要: 2025年3月以降、フィナンシャル・タイムズのコラムニスト、マーティン・ウルフ氏を装ったとされるディープフェイクが、FacebookとInstagramの広告を通じて拡散され、詐欺的な投資グループを宣伝する内容だったとされています。度重なる削除にもかかわらず、これらの広告は新しいアカウントで引き続き掲載されていると報じられています。メタデータによると、少なくとも1,700件の広告がEUだけで97万人以上のユーザーにリーチしたとされています。これらのなりすまし広告は、AI生成のビジュアルとクローン音声を用いてウルフ氏の肖像を模倣し、ユーザーを欺いていたとされています。
Alleged: Unknown deepfake technology developer と Unknown voice cloning technology developer developed an AI system deployed by Unknown scammers , Unknown fraudsters と Unknown scammers impersonating Martin Wolf, which harmed Martin Wolf , Financial Times と General public.
関与が疑われるAIシステム: Instagram , Facebook , Unknown deepfake technology と Unknown voice cloning technology
インシデントのステータス
インシデントID
1113
レポート数
2
インシデント発生日
2025-03-09
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
私には分身、あるいはインターネットで今やアバターと呼ばれているものがあります。私のアバターは見た目も声も、少なくとも少しは私に似ています。FacebookやInstagramに頻繁に現れます。私よりはるかにソーシャルメディアに精通している同僚たちが、このアバターを消そうと試みてきました。しかし、少なくとも今のところは失敗しています。
なぜ私たちは、このもっともらしい私のアバターを消そうとこれほどまでに固執しているのでしょうか？それは、彼が詐欺師――「ディープフェイク」だからで…
先週、バンク・オブ・モントリオールのチーフ投資ストラテジスト、ブライアン・ベルスキ氏は、自身のソーシャルメディアのフォロワーに対し、自身を装って投資家を騙す詐欺師について警告を発した金融界の重鎮となった。
ベルスキ氏は、「BMO Belski」というアカウント名で偽のInstagramやFacebook広告を配信していたことに言及した。これらの広告は、AI生成の動画やその他のコンテンツを通じて、ユーザーをWhatsAppの投資グループに誘い込もうとしていた。
「誤解のないよう…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
