Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 6246

関連インシデント

インシデント 12233 Report
Purportedly AI-Generated Deepfake Ads on Facebook Reportedly Impersonate Trump, Musk, Ocasio-Cortez, Warren, Sanders, and Leavitt to Promote Fraudulent Rebates

Loading...
ディープフェイク詐欺広告が溢れるメタ
techtransparencyproject.org · 2025

調査の主な結果: - TTPは、Metaプラットフォーム上で合計15万件以上の政治広告を掲載し、4,900万ドルを費やした63の詐欺広告主を特定しました。 - 詐欺師は、2025年のさまざまな期間にわたって、FacebookとInstagramで上位の政治広告費を費やしていることがよくありました。 - 詐欺広告の中には、トランプ大統領、イーロン・マスク、著名な民主党員のディープフェイク動画を使用して、架空の政府支出カードや景気刺激策の小切手を宣伝するものもありました。 - 広告は高齢者をターゲットにしていることが多く、正式なメディケアと社会保障給付を提供しているという印象を与えていました。 - Metaは一部の広告とアカウントを無効にしましたが、それは彼らが広告にかなりの金額(場合によっては100万ドル以上)を費やした後のことでした。テック・トランスペアレンシー・プロジェクト(TTP)の調査によると、ドナルド・トランプ氏やイーロン・マスク氏、アレクサンドリア・オカシオ=コルテス氏、バーニー・サンダース氏などの議員のディープフェイク動画を使って偽の政府給付金を宣伝する詐欺師が、Metaプラットフォームで上位の政治広告支出者であることが明らかになった。TTPは、ディープフェイクやその他の戦術を使って偽の景気刺激策小切手、政府支出カード、メディケア給付金、疑わしい投資商品や商品の提供を宣伝する一連の詐欺広告を特定した。これらの広告は政治家を利用してメッセージに正当性を与えており、高齢者などの社会的弱者を明らかに狙っている。調査結果は、詐欺師が人工知能技術の進歩、社会保障制度の現状に関する一般の混乱、Metaのコンテンツ管理の甘さを利用して新たな被害者を狙っていることを示している。TTPが特定した詐欺アカウントは、MetaプラットフォームのFacebookとInstagramに広告を出すために総額4,900万ドルを費やし、多くの広告が数万人のユーザーに届いている。 Metaは詐欺を禁止し、ユーザーの安全を守るために詐欺防止に投資しているとしながらも、こうした行為を容認しています。同社によると、政治広告主は「信頼性と正当性」を証明するために特別な承認プロセスを完了する必要があるとのことです。しかし、TTPの調査によると、Metaはこれらの広告主を承認しただけでなく、何日も何週間も何の対策も講じずに詐欺広告を掲載することを許可していたことが判明しました。 Meta上で活発に活動する詐欺エコシステムは、オンライン詐欺の爆発的な増加につながっています。ピュー・リサーチ・センターは最近、米国の成人のほぼ4分の3が何らかのオンライン詐欺や攻撃を経験していると報告しました。連邦取引委員会によると、米国では信頼できる政府機関や企業を装った詐欺が急増しており、「2020年以降、1万ドル以上、場合によっては全財産を失ったと訴える高齢者からの報告が4倍に増加している」とのことです。MetaはTTPの調査結果についてコメントを拒否し、広告審査システム、広告ポリシーの施行、詐欺広告からの収益の取り扱いに関する質問にも回答しませんでした。しかし、この報道を取り上げたニューヨーク・タイムズへの声明で、同社はルールを厳格に適用し、「新たな技術的防御の構築に投資する」と述べ、詐欺師は「検出を逃れるために常に戦術を進化させている」と付け加えた。 #### 背景と方法論 Metaは長年にわたり、同社の収益の大半を生み出す広告 システムを含むプラットフォーム上で詐欺をホストしてきた。同社は声明、「意図的に人々を欺き、虚偽の表現で伝え、詐欺行為を働いたり、搾取したりする」詐欺の検出能力向上に「常に取り組んでいる」と述べている。しかし、2025年5月のウォール・ストリート・ジャーナルの報道は、Metaの詐欺問題が悪化していると述べ、詐欺広告とその収益に関しては同社が見て見ぬふりをしていることを示唆した。*現従業員と元従業員によると、Metaは昨年、広告事業を22%増の1600億ドル以上に押し上げた広告購入クライアントへの障害を追加することに消極的である。ユーザーが詐欺行為の履歴を示した後でも、Metaはそれを削除することに躊躇する。*TTPは、Metaプラットフォーム上で政治家や政治メッセージを利用してアメリカ人ユーザーを標的とした詐欺を促進する広告を調査することに着手した。研究者たちはMetaの広告ライブラリを使用しました。Metaは、このライブラリに自社プラットフォーム上で配信される広告の記録を保管しています。「社会問題、選挙、政治」関連に分類された広告は、このライブラリに7年間保存されます。一方、他の種類の広告は配信終了後に記録から消えてしまいます。広告ライブラリは、政治広告に関する厳選されたデータを提供しており、広告の内容、広告主、広告費、Metaプラットフォームにおける広告のリーチなどが含まれます。Metaによると、米国で政治広告を掲載したい広告主は、特別な承認プロセスを経る必要があります。このプロセスでは、広告主は身元確認のため、米国の郵送先住所とともに公式IDを提出する必要があります。ロシアが2016年の米国選挙にFacebookとInstagramの広告を利用して干渉していたという暴露を受けて導入されたこれらの措置は、Metaが政治広告をより厳格な監視対象としていることを示唆しています。TTPはMetaの広告ライブラリレポートツールを使用して、Metaプラットフォーム上で「社会問題、選挙、または政治」広告を掲載する広告主に関するデータをダウンロードしました。研究者は、ツールが提供する特定の期間における、このカテゴリーの広告支出上位者のデータをダウンロードしました。期間は、1 日間 (2025 年 7 月 1 日)、過去 7 日間 (6 月 25 日~7 月 1 日)、過去 30 日間 (6 月 2 日~7 月 1 日)、および過去 90 日間 (4 月 3 日~7 月 1 日) でした。各期間について、TTP は結果の最初の 15 ページに掲載された上位の支出額の広告主を調査しました。広告主が以下の基準の 2 つ以上を満たしている場合、TTP は詐欺行為であると判断しました。広告が、メディアの報道や独立したファクト チェッカーによって偽物であると特定された政府給付を提供していること。広告が、連邦取引委員会 (FTC) が詐欺の兆候と特定した手法を採用していること。Better Bureau Business Web サイトに、詐欺の被害者であると主張する人々からの苦情が複数寄せられていること。彼らの広告は、2024年10月にTTPとProPublicaによって以前に特定された詐欺ネットワークの特徴を持っていた、またはMetaのポリシーの「容認できないビジネス慣行」に違反したため、広告が削除された。このポリシーでは、「金銭や個人情報を詐取することを目的としたものを含め、特定された欺瞞的または誤解を招く慣行を使用して、製品、サービス、スキーム、またはオファーを宣伝してはならない」と規定されている。 TTPは調査した各期間において、米国のユーザーをターゲットにした詐欺広告を掲載している広告主を数十社特定しました。これらの広告主は調査期間中に上位の広告費を支出していることが多く、FacebookやInstagramの広告に総額数百万ドルを費やしました。たとえば、2025年4月3日から7月1日までの90日間で、少なくとも45社の詐欺広告主がMetaプラットフォームに1,800万ドル以上を費やしました。広告の多くはトランプ大統領、イーロン・マスク、または著名な進歩派政治家のディープフェイク動画を使用し、特に高齢者をターゲットにしていました。 TTPは合計でMeta上で63社の詐欺広告主を特定しました。これらの広告主を合わせると、15万600件を超える政治広告と、生涯支出額4,900万ドルに相当します。 63の詐欺広告主はすべて、過去12か月以内にMetaのポリシー違反を理由に広告を削除されたと回答しているが、2025年9月30日時点で約半数(30)が広告掲載を継続していた。Metaによると、35の広告アカウントを無効化したが、これは数十、場合によっては数百の広告を掲載した後のことだった。アカウントのうち6つは、Metaによって無効化または削除される前に100万ドル以上を費やしていた。#### 偽のトランプ景気刺激策 TTPによって特定された詐欺広告主の多くは、政府の景気刺激策を偽装していた。たとえば、「Relief Eligibility Center」という広告主は、2025年4月から5月にかけて、FacebookとInstagramで広告を掲載し、トランプ大統領が「アメリカ人1人あたり5,000ドル」の景気刺激策を約束しているように見えるディープフェイク動画を掲載した。この動画は、4月2日にホワイトハウスのローズガーデンで行われたトランプ大統領の関税関連のスピーチと一致していたが、トランスクリプトによると、広告内のトランプ大統領の言葉は実際のイベントでの発言とは一致していなかった。この動画は、まるでイーロン・マスク氏がXで再投稿した政府効率化局(DOGE)のメッセージであるかのように見せかけられていた。広告はushealthsubsidy.comというウェブサイトに誘導し、「トランプ大統領から5,000ドルの小切手を無料で」受け取れるようにしていた。このオファーは、トランプ大統領とマスク氏が今年初めにDOGE(ドージコイン)の政府支出削減の結果として国民に5,000ドルの配当小切手を送るというアイデアを採用したことを彷彿とさせますが、小切手はまだ実現しておらず、実現するかどうかも不明です。ファクトチェッカーは長年にわたり、ソーシャルメディア上の偽の景気刺激策小切手オファーについて警告してきました。Meta広告ライブラリによると、広告主のRelief Eligibility Centerは、テキサス州、フロリダ州、オハイオ州を含む20州以上の65歳以上の男女を対象としたこの広告に2,500ドルから3,000ドルを費やしました。ライブラリによると、Metaは容認できないビジネス慣行ポリシーに違反したため、この広告を「削除」しましたが、Metaがこの措置をいつ取ったかは明らかではありません。この広告はMetaプラットフォーム上で問題なく掲載され、推定100万人以上のユーザーにリーチした。2025年4月に掲載されたRelief Eligibility Centerの別の広告には、「速報:トランプ大統領の就任後最初の命令は、すべてのアメリカ人に5,000ドルを支給すること」というバナーがあり、「今週日曜日の深夜0時までに」給付金を申請するよう人々に促していた。広告にはマスク氏と米国財務省の景気刺激策小切手の画像が映し出され、その後、ジョー・ローガンのポッドキャストでマスク氏が5,000ドルの「直接的な景気刺激策小切手」を約束する加工された動画が流れた。2025年2月28日のマスク氏のポッドキャスト出演時のトランスクリプトを見ると、彼がこれらの言葉を使っていないことがわかる。オファーの期限が切れる前に速やかに行動するよう求めるこの広告のメッセージは、FTCが詐欺の兆候だと警告する戦術です。上記の広告と同様に、この広告もFacebookとInstagramで65歳以上の男女をターゲットにしており、Metaが同社の許容できないビジネス慣行ポリシーに違反したとして「削除」するまでに推定100万人以上の視聴者を獲得しました。Metaは、政治広告に「実在の人物が実際には発言していない、または行っていないことを発言または行っている」ように描写するために「デジタルで作成または改変」された画像、動画、または音声、あるいは「実際に起こった出来事の改変された映像」が含まれる場合、広告主に対し開示を義務付けていますが、TTPは広告や免責事項にそのような開示の証拠は見つかりませんでした。 Relief Eligibility Centerは、2025年4月3日から7月1日までの90日間に「社会問題、政治、選挙」の広告を掲載した21,899のMeta広告主のうち、上位1%にランクインしていました。このアカウントは、この期間に141,368ドルを広告に費やし、UBSやUberなどの企業広告主、シエラクラブなどの支援団体、麻薬取締局(DEA)の広告費を上回りました。Metaの広告ライブラリによると、このアカウントはその後非公開または削除されており、TTPは広告主の連絡先を見つけることができませんでした。ホワイトハウスとマスク氏の会社xAIはすぐにコメントしませんでした。 * * * * * 「Relief Eligibility Center」がFacebookとInstagramに掲載した広告には、トランプ大統領が「国民一人当たり5,000ドル」の架空の景気刺激策小切手を約束するディープフェイクが表示されていました。 「ハンナ・グレース」という別の広告主は、2025年3月から7月の間に、FacebookとInstagramで40回以上、詐欺的な広告を掲載した。ドラマチックな音楽が流れるトランプ大統領の画像に映し出された女性広告では、政府が「全米国民に5800ドル分のカードを無料で提供する100億ドルの基金をひっそりと削減した」と述べ、待機リストに載せられる前に「迅速に行動」してこの申し出を受け入れるよう人々に促している。広告は、名前とメールアドレスを入力するよう促すウェブサイトにリンクしており、「お小遣いをすぐにお送りします」と約束している。ファクトチェッカーは、5,800ドルの補助金や政府の「支出カード」の申し出は偽物だと述べており、FTCは消費者に対し、詐欺師が政府を装い、申し出をすぐに受け入れるよう圧力をかけることが多いと警告している。Hannah Graceは今年、Metaプラットフォームで数百の広告を掲載し、TTPが調査した2025年の期間すべてで広告費支出上位にランクインした。例えば、4月3日から7月1日までの90日間では、21,000社を超える政治広告主の中で37位にランクインし、Meta広告に60万ドル以上を費やした。広告ライブラリによると、Metaは容認できないビジネス慣行ポリシーに違反したとして、Hannah Graceの広告数十件を「削除」したが、7月23日時点では広告掲載が継続されていた。違反件数が多いにもかかわらず、Metaがなぜこの広告主の広告掲載を許可したのかは不明だ。2025年5月のウォール・ストリート・ジャーナルによるMeta詐欺に関するレポートでは、Metaが広告主に「アカウントを凍結する前に、金融詐欺に対する自動的な『ストライク』を8~32回発行している」という社内文書が引用されていた。ハンナ・グレースの広告の広告ライブラリの免責事項には、2024年10月にTTPによって特定された詐欺ネットワークと一致する情報とリンクが含まれています。TTPは2024年のレポートでこの詐欺ネットワークの免責事項のパターンに関するすべての詳細を提供しているため、Metaにとって秘密ではないはずです。ハンナ・グレースのアカウントは、免責事項に記載されている連絡先メールアドレスにコメントの要請を送ったが、返答はありませんでした。 * * * * * 「ハンナ・グレース」という広告主が、FacebookとInstagramで40回以上詐欺広告を掲載し、政府発行の偽の5,800ドル分支出カードを宣伝していました。 2025年6月、「Get Covered Today」という広告主が、5,000ドルの「救済小切手」を宣伝する広告を掲載したが、この広告にはホワイトハウス報道官のキャロライン・リービットのディープフェイク動画が含まれていた。動画では、リービットがDOGE配当小切手について質問され、「アメリカ人は1か月前に公開した公式サイトで配当小切手を請求できることをすでに公表しています」と答える様子が映っていた。リービットは、「人々は公式サイトで申請し、これらの特定の資金を受け取る資格があるかどうかを確認する必要があります」と付け加えた。赤い矢印は「取り下げられる前に現金を受け取れ」というリンクを指している。ホワイトハウスは今のところコメントしていない。広告主のGet Covered Todayは6月、バーモント州選出の無所属上院議員バーニー・サンダース氏のディープフェイク動画を使った「救済小切手」広告を掲載した。サンダース氏はカメラを見つめながら、視聴者にこの提案について語り、「これは億万長者向けの救済策ではありません。これはあなた方、一般のアメリカ人のためのものです」と述べた。さらに、「ただし、この資金には限りがあり、現政権がひそかにこれを縮小しようとするかもしれないという噂が既に流れています。そうなればとんでもないことです」と付け加えた。広告には、「現金を請求する」ための同じリンクへのリンクも表示されている。サンダース氏は声明で、「アメリカ人、特に高齢者は、洗練されたディープフェイク詐欺の標的になりつつある」と述べ、この傾向を「極めて危険」と呼んだ。「知っていると思っている人物からのビデオ通話や電話が、自分を騙すためのものだと心配する必要はない」とサンダース氏は述べた。「これははるかに大きな問題の一部です。AIは急速に進歩していますが、一般のアメリカ人のために制定されている法律や保護は、危険なほど時代遅れです。」 * * * * * 「Get Covered Today」の広告は、ホワイトハウス報道官のキャロライン・リービット氏のディープフェイク画像を使用し、存在しないDOGE配当小切手を宣伝した。1/2 一方、「Asking America」という広告主は、著名な民主党員2人、ニューヨーク州選出のアレクサンドリア・オカシオ=コルテス下院議員とマサチューセッツ州選出のエリザベス・ウォーレン上院議員による偽の動画広告を掲載した。 2025年6月に公開されたオカシオ=コルテス議員の動画では、アメリカ国旗の前に立つ議員のディープフェイクが「あなたの家族を助けるための、現実の、力強い何かが可決されました」と述べ、架空の救済小切手を宣伝している。議員は続けて、「このプログラムは、一般市民は支援を受けるに値しないと考える権力者によっていつでも廃止される可能性があります」と述べている。ウォーレン氏がプッシュしているディープフェイクは、同じ偽の政府給付金であり、「これは見せかけではありません。これは本当に、本当に役立つもので、1セントたりとも返済する必要はありません」と人々に保証している。オカシオ=コルテス氏はすぐにコメントしなかった。ウォーレン氏はニューヨーク・タイムズ紙への声明の中で、オンライン消費者を保護するための「本格的なガードレール」が必要だと訴えた。 「アメリカ人を騙すために使われているディープフェイクAI動画よりも悪いのは、Metaがこれらの詐欺広告で数千万ドルを稼いでいるという事実だ」と彼女は述べた。Asking Americaは、ニュースキャスターのディープフェイクを使った広告も展開していた。ある広告は、CNNのキャスターが「インフレ・バッファー・グラント」と呼ばれる、世帯に5,000ドルを支給する新しい経済支援プログラムについて話している、加工された動画で始まる。その後、ナレーションが「いつまで続くか保証がないので、今すぐ申請してください」と促し、「5,000ドルの支給額が縮小または廃止される可能性があるという噂があります」と付け加えている。「インフレ・バッファー・グラント」は実際には存在しない。Metaは詐欺対策ポリシーに違反したとしてAsking Americaの広告の一部を「削除」したが、このアカウントは[8月]現在も新しい広告を掲載し続けている。 5](https://www.facebook.com/ads/library/?active_status=all&ad_type=all&country=US&id=622026444277551&is_targeted_country=false&media_type=all&search_type=page&view_all_page_id=489356137591663)。 * * * * * 「Asking America」のこの広告には、アレクサンドリア・オカシオ=コルテス下院議員が架空の政府救済小切手を承認するディープフェイクが使用されていました。 1 / 3 Get Covered TodayとAsking Americaはともに、6月2日から7月1日までの30日間と、6月25日から7月1日までの7日間の社会政治広告主の上位3%に入っていた。2つのアカウントには、2024年10月にTTPが特定した詐欺ネットワークと一致する免責事項情報が示されている。両社はコメントの要請に応じなかった。 #### 高齢者を狙った詐欺 TTPが特定した詐欺広告主の多くは、高齢者向けにメッセージをカスタマイズしていた。 「Senior Health Daily USA」という広告主は、2025年7月にFacebookとInstagramで「高齢者は2025年最大の恩恵を享受できます」というテキストを含む広告を掲載しました。付随する動画はトランプ大統領の画像で始まり、ナレーションでは、メディケア加入者に対する大統領の「最初の神聖な行為」は「莫大な恩恵のある主要な新しい支出カード」を与えることだと述べられています。買い物やその他の活動に没頭する高齢者の映像に重ねて、音声は「このカードはあらゆる請求書や食料品などをカバーするのに使えます。これはすべて、この困難な時期にメディケアに加入しているアメリカ人を支援するためのものです」と訴える。広告は最後に、高齢者は迅速に行動しなければ24ヶ月間申請できないという警告で締めくくられる。広告はウェブページへと誘導し、「登録は本日深夜に締め切られます!」と警告し、このカードはウォルマート、ウォルグリーン、コストコ、CVSなどの大手小売店で利用できると案内する。訪問者は「ベネフィット・ジャーナルのエミリー」という担当者とのオンライン会話を始めるよう促される。TTPが「エミリー」の質問にどう答えても、「あなたは健康手当カードの資格があります!」と言い、数分間「予約済み」であることを示すカウントダウンタイマーが表示された電話番号を指差した。全米高齢者評議会のガイダンスによると、メディケア詐欺師はしばしばプロフェッショナルなふりをして、電話でターゲットに連絡を取ろうとする。前述の通り、FTC(連邦取引委員会)も、詐欺師は請求内容を確認せずに人々に行動を起こさせるために緊急感を煽ると警告している。 * * * * * この広告では、トランプ大統領の「最初の神聖な行為」は、メディケア加入者に対する「莫大なメリットのある新しい主要な支出カード」を与えることだと述べられていた。1/4 広告ライブラリの記録によると、広告主のSenior Health Daily USAは、Metaプラットフォーム上でこの広告の同一バージョンを59件掲載した。Metaはポリシー違反を理由に4分の3以上を「削除」したが、広告主が同じ広告を複数回再掲載することを引き続き許可した。新しい一連の広告は8月に掲載されました。Senior Health Daily USAは、TTPが調査したすべての日付範囲で、Metaの米国における政治広告支出額上位にランクされました。6月25日から7月1日までの7日間では支出額が14番目に高く(101,688ドル)、6月2日から7月1日までの30日間では支出額が5番目に高く(637,908ドル)でした。 4月3日から7月1日までの90日間で、シニア・ヘルス・デイリーUSAは支出額が32位(70万5,366ドル)でした。この期間中、シニア・ヘルス・デイリーUSAは時折、大企業や政治家の支出額を上回りました。例えば、6月2日から7月1日までの期間、この詐欺広告主は、大手銀行JPモルガン・チェース(58万6,027ドル)や、ニューヨーク市長選民主党候補の予備選の最中だったアンドリュー・クオモ(27万6,320ドル)を上回りました。このページは、2025年5月26日の作成以来、詐欺広告に総額130万ドル以上を費やしています。 Senior Health Daily USAは、より広範な詐欺ネットワークの一部であると思われます。免責事項によると、「American Relief Programs」という組織が資金提供しており、TTPが特定した24社以上の広告主もこの組織に名を連ねています。このネットワークの他の広告主の多くは、「無料」の健康手当カードを約束する広告を掲載しており、その名称から高齢者をターゲットにしていることが窺えます。これらには、メディヘルスベネフィット、メディケアヘルスベネフィットUSA、ゴールデンヘルプフォーすべて、"毎日のヘルプ、"健康増進Perk」および「プレミアムシニアヘルスプラン」これら7つのアカウントは、4月3日から7月1日までの間にMetaの広告に合計220万ドルを費やしました。これらの広告はすべて、Metaのシステムによって、許容されないビジネスプラクティスに関するポリシーに違反しているとフラグ付けされていました。「Health Benefits for Seniors」という別の広告主は、政府の給付金詐欺とみられる広告を250件以上掲載していました。同社の広告の1つは、「アメリカの高齢者は2025年最大の生活費控除を受けられる」と謳っている。トランプ大統領の画像を使った動画では、「彼の最初の天罰」は、アメリカ人が「毎月の社会保障給付金に追加の給付金を加算するパートBの恩恵を受ける資格を得た」ことだと述べられている。この広告は、リンクをクリックして「資格があるか確認する」ようユーザーに促している。Metaの広告ライブラリによると、この広告はフロリダ州、テキサス州、ペンシルベニア州を含む24以上の州で、FacebookとInstagramの推定100万人以上のユーザーにリーチした。この広告は主に65歳以上の男女を対象としていた。広告主のHealth Benefits for Seniorsは、TTPが調査したデータ範囲で、支出額が上位のもう1つの企業でした。たとえば、4月3日から7月1日までの90日間の政治広告支出額は18位で、Meta広告に902,890ドルを費やしました。これは、同期間中にExxonMobil(563,153ドル)とKaiser Permanente(184,298ドル)がMeta広告に費やした合計額を上回ります。Meta広告ライブラリの通知によると、Metaは広告基準に従わなかったため、Health Benefits for Seniorsのアカウントを無効化しました。しかし、広告ライブラリによると、このアカウントは依然として90万ドル以上を広告に費やしていました。Health Benefits for Seniorsの広告の免責事項には、前の例で説明した詐欺ネットワークの背後にある組織であるAmerican Relief Programsにリンクされたメールアドレスが使用されていました。免責事項には、メタが「社会問題、選挙、または政治」広告に必須と定めている事業所のウェブサイトまたは郵送可能な住所が記載されていなかった。これは、メタがこの広告主を適切に審査したかどうかという疑問を投げかける。ヘルス・ベネフィット・フォー・シニアズは、以前の広告主であるシニア・ヘルス・デイリーUSAと同じメールアドレスを免責事項に記載していた。このメールアドレスにコメントを求めたが、返答はなかった。 * * * * * 「ヘルス・ベネフィット・フォー・シニアズ」という広告主は、政府の給付金詐欺を示唆する広告を250件以上掲載していた。 「Freedom Asset Advocates」という広告主は、社会保障の将来に対する懸念を喚起し、人々に投資アドバイスを勧める一連の広告を掲載した。 2025年6月から7月にかけて10回掲載された広告の1つには、マスク氏の写真と「イーロン・マスク氏とドナルド・トランプ氏は、アメリカ最大の退職年金制度における驚くべき量の無駄と詐欺行為を明らかにした。このままでは、高齢者や退職間近の人にとって悪夢のような状況に向かうことになる」という文章が掲載されていた。この広告は、ジム・リッカーズという男性が、アメリカ人が150兆ドル規模の秘密の「信託基金」を利用できる方法について語る47分間の動画にリンクしています。動画は、リッカーズ氏のニュースレター購読サービスとリサーチサービスの宣伝で締めくくられています。動画を分析したファクトチェックサイトSnopesによると、リッカーズ氏の「主張はセンセーショナルで誤解を招くことが多い」上、「150兆ドルという数字を、信頼できる情報源であろうとなかろうと、いかなる情報源も引用せずに引用し、視聴者を自身の投資推奨に誘導した」とのことだ。Metaは、この広告の10バージョンのうち9バージョンを、同社の「容認できないビジネス慣行」ポリシーに違反するとして「削除」したが、1バージョンは理由不明のまま残した。その後、当該アカウントはMetaの広告ポリシー違反により無効化されたことが明らかになったが、それは150万ドル以上を広告に費やした後のことだった。 * * * * * 「Freedom Asset Advocates」という広告主は、社会保障の将来への懸念を煽り、人々に投資アドバイスを勧める一連の広告を掲載した。動画によると、このサービスはParadigm Press LLCの製品であるようです。同社はBetter Business BureauやTrustpilotのウェブサイトで、このサービスを詐欺だと非難する1つ星のレビューを複数獲得しています。BBBのウェブサイトのあるレビューアーは、「極めて詐欺的。クレジットカード情報を保存し、同意なしに請求してくる」と書いています。別のレビューアーは、「年齢(96歳)と株式投資の経験不足を理由に、利用された」と述べています。 (パラダイム・プレスは、サイト上で寄せられた苦情の一部に対し、返金を約束したり、問題解決を申し出たりして対応しました。)パラダイム・プレスは自社のウェブサイトで、同社がThe Agora Companies(別名The Agora)と呼ばれる組織の一部であることを明らかにしています。フォーブスは最近、この組織を「Facebook上で誤った金融および健康に関するアドバイスを売りつける」帝国と評しました。フォーブスの報道によると、この組織はFTC、証券取引委員会、そして2人の州司法長官から訴訟を起こされた経歴があります。パラダイム・プレスとThe Agora Companiesはコメント要請に応じませんでした。フリーダム・アセット・アドボケーツは、Meta広告アカウントに登録されている連絡先メールアドレス宛にコメント要請を送りましたが、応じませんでした。TTPは、パラダイム・プレスのコンテンツにリンクし、免責事項セクションに同じ連絡先メールアドレスと電話番号を掲載している、Meta広告費上位6社の広告主を特定しました。これらには、前述のFreedom Asset Advocatesのほか、「America's Secret Fund」、「Alternative Health Remedies」、「Patriotリセット," "愛国心旺盛な賢者," "[スマートな愛国心旺盛なこれらのアカウントはMeta広告に総額数百万ドルを費やしており、4月3日から6月1日までの90日間で340万ドル以上を費やした。Alternative Health RemediesとPatriot Resetの2つのアカウントは、マネージャーが米国とフィリピンに拠点を置いていることが示されている。 TTPが2024年10月に実施したMeta詐欺広告ネットワークの調査では、ネットワーク内の数十のFacebookページがフィリピンを含む外国から管理されていたことが判明しました。 #### 「無料」グッズ TTPが特定した他のMeta広告主は、政治をテーマにした「無料」グッズを売り込んでおり、望ましくないクレジットカード請求に関する苦情を引き起こしています。例えば、「I Love My Freedom」という広告主は、2025年5月1日から、トランプ大統領によるメキシコ湾の改名試みを記念し、「Gulf of America」タンブラーを無料プレゼントする広告の掲載を開始しました。広告をクリックすると、ユーザーはメキシコ湾をテーマにした主要な政治課題に関するアンケート(選択肢:国境の安全確保、経済の立て直し、修正第2条の保護、宗教の自由、その他)に移動し、名前とメールアドレスの入力を求められます。その後、ユーザーはタンブラーを受け取るためのウェブページに誘導され、送料と手数料を支払うためにクレジットカード情報を入力します。ページ下部の通知には、実際には会員登録のトライアル期間であることが示されています。I Love My Freedomは、Better Business Bureauのウェブサイトに145件の苦情を寄せており、その多くはクレジットカードの定期的な請求に驚いた、またはキャンセルに苦労したというユーザーからのものです。 (I Love My Freedomは、一部の苦情に対して返金したと述べた。)2025年4月の苦情の1つには、次のように書かれている。 *この会社に電話したら、1か月分しか返金してくれないと言われました。毎月メールを送っていると言われましたが、送っていませんでした。443.84ドルを返金してほしいです。14か月分です。私は76歳で、詐欺に遭いました。どうか私のお金を取り戻してください。 *連邦取引委員会は、無料で何かを提供しながらそれを手に入れるにはお金を払わなければならないと言う会社には疑いを持つように消費者に警告、それは詐欺の危険信号だと言う。 FTCによると、不要な製品やサービスに対して定期的な支払いを買い物客に押し付けるスキーム(いわゆる「ネガティブオプション」)は、「何十年にもわたって消費者に継続的な被害をもたらしてきた」という。FTCはこの慣行を取り締まるための新しい規則を制定しようとしたが、その取り組みは裁判所で阻止された。 * * * * * 「I Love My Freedom」という広告主は、トランプ大統領のメキシコ湾改名を祝って、「Gulf of America」タンブラーを無料で提供する広告を掲載した。 1 of 2 HuffPostは、2020年3月のI Love My Freedomに関するレポートで、このキャンペーンは「悪質な詐欺やインチキ商品を売り込むメールを定期的に送信する」デジタルニュースレターを軸にしていると述べている。報告書では、同社はFacebook広告に200万ドル近くを投じており、「クリックベイト的なアンケートや『無料』MAGAグッズの約束で人々を引きつけ、メールアドレスの登録を促すページに誘導する」Facebook広告に投資していると述べている。これにより、自動的にニュースレターと多数のスポンサーメッセージの受信登録が行われる。I Love My Freedomは、Meta広告アカウントに登録されている連絡先メールアドレスにコメントを求めたが、回答はなかった。I Love My Freedomは、TTPが調査したすべての期間において、Meta政治広告支出額上位3%に入っていた。例えば、2025年4月3日から7月1日までの90日間では、21,000社以上の広告主の中で45位にランクされ、50万ドル以上を支出した。 「End The Wokeness」と呼ばれる別のMeta広告主も同様のモデルを採用しました。 2025年5月と6月にFacebookとInstagramで掲載されたFacebookの広告の1つでは、米国移民関税執行局(ICE)のロゴとICE職員が誰かを拘束していると思われる画像が入った帽子をかぶったトランプ大統領が登場した。添えられたテキストには、「ばかげている。民主党は国外追放を阻止するためにICEの支持率を下げようとしている。民主党に勝たせるな!この投票で支持を表明すれば、『ICE』帽子を無料で送る」と書かれていた。この広告は、人々をウェブページに誘導し、トランプ氏と移民税関捜査局(ICE)への支持に関するアンケートに回答してメールアドレスを入力するよう促しています。すると、チェックアウトページに進み、梱包料を支払えば「無料」の帽子が手に入ります。注文すると、毎月更新される会員登録も行われます。 * * * * * 「End the Wokeness」の広告は、人々にトランプ氏と移民に関するアンケートに回答してもらい、ICEの帽子を無料で手に入れるよう促しています。1/2 End the Wokenessは、米国とフィリピンの両方にマネージャーがいるとしています。 「End The Wokeness」という社名で事業を営む Merica Now News Network LLCは、Better Business Bureauのウェブサイトで、クレジットカードの請求書に突然購読料が請求されたという複数の苦情を蓄積しています。ある人は「End The Wokenessの購読料として、銀行口座に29.99ドルの取引がありましたが、購入した覚えはありません。この担当者に少なくとも10回メールを送りましたが、返信はなく、請求に異議を申し立てるために銀行に行かなければなりませんでした」と書いています。 (多くの苦情に対し、メリカ・ナウ・ニュース・ネットワークは料金の返金や購読の解約を行ったと述べている。)エンド・ザ・ウォクネスは、Meta広告アカウントに登録されている連絡先メールアドレスにコメントを求めたが、回答は得られなかった。エンド・ザ・ウォクネスはMetaでもトップの広告主だった。6月2日から7月1日までの30日間の政治広告支出額は第1位で、81万5264ドルを費やした。また、4月3日から7月1日までの90日間の政治広告支出額は第2位で、この期間に230万ドル以上を政治広告に費やした。 I Love My FreedomとEnd the Wokenessは、過去7年間(2018年9月以降)のMeta政治広告支出上位企業でもあり、50万社を超える広告主のうち、それぞれ56位と100位にランクされています。つまり、この期間中、両社はウォルマートやファイザーなどのフォーチュン500企業よりもMeta広告に多くを費やしたことになります。 #### 結論 TTPの調査は、Metaの詐欺問題、具体的には、政治家や政治的メッセージを利用して偽の政府給付金やその他の制度を売り込む詐欺広告の実態を浮き彫りにしています。これらの広告はMetaポリシーの複数の層に違反していますが、Metaでは通常、何日も何週間もこれらの広告の掲載を許可してから何らかの措置を講じています。 Metaがこれらのアカウントを無効にしたり、広告を削除したりしても、消費者への損害はすでに発生しており、同社はすでに利益を上げている。TTPが特定した詐欺師はMetaの広告に少なくとも4,900万ドルを費やしているが、これは間違いなく同社のプラットフォームに流れている詐欺広告全体のほんの一部に過ぎない。TTPが特定した詐欺広告アカウントの中には、2025年9月現在もMetaで広告を出稿し続けており、同社のプラットフォームで上位の広告費を費やしているアカウントもある。42人の州司法長官からなるグループは最近、ウォーレン・バフェットのような著名な実業家の画像を使って被害者を誘い込む投資詐欺広告を取り締まるようMetaに要請した。TTPの調査は、詐欺師が政治家のディープフェイクやその他の戦術を使ってMetaのプラットフォームで自分たちの計画を宣伝している方法も明らかにしている。よりリアルなディープフェイクの作成を可能にする生成AIツールの普及により、Metaが自社のポリシーの施行強化に着手しない限り、この詐欺行為はさらに加速する可能性が高い。注:Metaの情報に基づき、ウォーレン氏がニューヨーク・タイムズ紙に語ったコメントを更新。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd