インシデント 1242: スウェーデンの詐欺キャンペーンで、医師のアグネス・ウォルド氏とアンダース・テグネル氏になりすましたAI生成のディープフェイク動画が使用されたと報じられている。
レスポンスしました
概要: 2025年6月にスウェーデン警察が発した警告によると、詐欺師たちは、アンダース・テグネル氏やアグネス・ウォルド氏といった著名な医師のAI生成とされるディープフェイク動画を、偽の健康商品を宣伝するソーシャルメディア広告に使用していた。被害者は詐欺サイトに誘導され、カード情報を盗まれ、多額の不正請求を 受けたとされている。2025年5月下旬に始まったとされるこの詐欺行為は、なりすまし医師と被害を受けた消費者の両方から複数の苦情を引き起こした。
Editor Notes: Timeline notes: The alleged scams began circulating sometime in late May 2025 with the Swedish police issuing a warning on 06/09/2025, which is the date taken for this incident ID. The ID was added to the AI Incident Database on 10/21/2025.
Alleged: Unknown deepfake technology developer と Unknown voice cloning technology developer developed an AI system deployed by Unknown scammers , Unknown fraudsters , Unknown scammers impersonating Agnes Wold と Unknown scammers impersonating Anders Tegnell, which harmed Agnes Wold , Anders Tegnell , General public , General public of Sweden と Consumers misled by fraudulent ads.
関与が疑われるAIシステム: Unknown deepfake technology , Unknown voice cloning technology , Meta Platforms , Facebook と Social media
インシデントのステータス
インシデントID
1242
レポート数
2
インシデント発生日
2025-06-09
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
Loading...
Polisen Stockholms län, Stockholm County Policeによるインシデント後のレスポンス
ソーシャルメディアにおけるAI詐欺に関する複数の報告
詐欺師はAIを駆使し、ソーシャルメディア上の動画で実在の人物を装います。そして、次のステップとして、ユーザーのカード情報を盗みます。
5月末以降、ストックホルム地域の警察は、AIが生成した医師を装った動画を使った広告詐欺で被害者が騙されたという報告を複数受けています。
これらの動画では、医師が様々な医薬品やビタミン剤の購入を勧めたり、アドバイスをしたりしていますが、動画に登場するのは往々にしておなじみの顔である実在の医師で…
Loading...
メールが届き始めたのは5月のことだった。ウォルド氏本人宛てと、医師と教授が健康に関する神話を検証するSR番組「アグネス・ウォルドに聞く」宛てに届いた。
「血管洗浄についておっしゃっていることは本当ですか?高血圧と心不全の薬を服用をやめても大丈夫ですか?」と、ある投稿者は書いている。
「駆虫薬として勧められた商品を注文しました」と、別の投稿者も書いている。
メールの1つには、アグネス・ウォルド氏を名乗る人物が寄生虫感染症を予防する薬を勧める動画へのリンクが含まれていた。
「私」…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents

