Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 5526

関連インシデント

インシデント 10852 Report
Phone of White House Chief of Staff Susie Wiles Allegedly Breached in Reported AI Voice Impersonation Incident

インシデント 114123 Report
Purported AI Voice Cloning Used to Impersonate Secretary of State Marco Rubio

父がディープフェイク詐欺の電話を受けた。マルコ・ルビオにも同じ電話がかかってきた。
contrarian.substack.com · 2025

数ヶ月前、父は電話を受け、まさか自分が苦しんでいる声を聞くとは思ってもいなかった声を聞いた。孫――私の息子の声だ。その声は慌てふためき、パニックに陥り、懇願するように聞こえた。「誤解があった。逮捕された。保釈金をすぐに送金してほしい」と書いてあった。電話は長く続かなかった――ほんの一瞬の恐怖を抱かせるだけの時間だった。

しかし、電話は本物ではなかった。息子は無事だった。しかし、その声は父をためらわせるほどに息子に似ていた。犯人にとってはそれだけで十分だった。

幸いにも、父は電話をかけてきた相手に何も情報を提供しなかった。父から私に電話があり、私は息子が無事で、電話が偽物だったことを確認できた。見知らぬ人物が孫の声を真似て、パニックを誘発したという衝撃は、逮捕そのものと同じくらい不安なものだった。

私たちのほとんどは、低レベルのスパムに遭遇したことがあるでしょう。銀行を装った詐欺テキスト、知らない番号からの緊急支払い要求、Apple IDが不正使用されたと主張するメッセージなどです。これらは往々にして粗雑で、簡単に見分けられます。しかし、これらはスパムレベルの調査であり、不注意な人を試す厄介なものです。真の危険は全く別のものです。個人を騙すのではなく、政府を危険にさらすために設計された、洗練された標的型なりすましです。

私の父のような一般人がパニックに陥って躊躇するのは無理もありませんが、同じ手口が国家指導部の最高レベルにまで浸透しているとなると、言い訳はできません。

7月3日に米国大使館と領事館に送られた、機密扱いではないものの機密扱いされていない国電が漏洩した。それによると、ある人物がAI生成の音声とテキストを使ってマルコ・ルビオ国務長官になりすました。このなりすまし犯は、少なくとも3人の外務大臣、1人の米国知事、1人の連邦議会議員に連絡した。少なくとも2件のケースでは、メッセージに合成ボイスメールが含まれていた。少なくとも1人がテキストメッセージを受信し、悪名高い暗号化メッセージアプリ「Signal」経由で連絡を続けるよう促した。

これは金銭目的の詐欺ではなく、米国外交の最高レベルへの潜入工作だった。7月3日の電報によると、目的は「情報やアカウントへのアクセス」を得ることだった。

この事件は、ドナルド・トランプ大統領の首席補佐官であるスージー・ワイルズ氏が関与した以前の事件に続くものである。 5月には、トランプ氏の声を模倣し、連絡先を悪用したと思われる攻撃者が上院議員、州知事、そしてビジネスリーダーたちに連絡を取り、恩赦や資金援助を求める要請を求めた。

ワイルズ氏とルビオ氏の2件の事件は、より深刻な脆弱性、すなわち高官や外国要人の個人番号へのアクセスを示唆している。これはLinkedInから収集された情報ではない。内部関係者によるアクセス、Signalなどのアプリで自動同期される連絡先リストの悪用、あるいは外交官名簿を保管する政府システムへの侵入のいずれかを示唆している。

これらの活動がフリーランスの詐欺師やサイバー犯罪者によるものではないことを示す証拠が増えている。ルビオ氏なりすまし事件に詳しい米国当局者pointは、ロシア対外情報局と関係のある人物にこの件を報告しており、米国の検証手順を探り、組織の盲点を突く外国の情報活動が行われている可能性を示唆している。

誰が現在アクセスしているかによって、リスクは増大する。トランプ大統領の下で設立され、イーロン・マスク氏が監督する政府効率化局(DOGE)は、多くの連邦政府のITシステムへの広範なアクセスを許可されていました。これには、安全なメッセージングツールや連絡先データベースの本拠地である国務省外交技術局も含まれます。DOGEがこれらのインシデントに関与したかどうかは別として、セキュリティへの影響は現実的です。アクセス制御、オフボーディング、またはアクティビティログの不備(DOGEの在任期間中か、現在のシステムに引き継がれたかは関係ありません)があれば、職員に対する執拗な標的攻撃が可能になっていた可能性があります。

タイミングは偶然ではありません。AIによるなりすましがより正確になるにつれ、連邦政府の防御能力は剥奪されつつあります。サイバーセキュリティ・インフラセキュリティ庁(CISA)は、2026年度予算で職員の約3分の1を削減すると予測されています。この削減により、偽情報、ディープフェイク検出、その他の重要なセキュリティ脅威に焦点を当てたプログラムが空洞化します。

国務省は発表、「将来このような事態が発生しないように徹底的な調査」を行うと述べています。ホワイトハウスの対応はまだ保留中ですが、歴史が示すように、そしてこの政権ではよくあることですが、以前のスージー・ワイルズ事件への対応に似たものになるかもしれません。 5月にそのなりすましについて問われた際、トランプ氏は、「彼女なら対処できる」と答えた。これは、具体的な計画や説明責任を示さない彼特有の言い訳である。

ワシントンが目を覚ますまで、あなたにできること

連邦政府の連携が行き詰まっている中、研究者や関係機関は国民に向けて明確な指針を出している。効果的な対策は以下の通りだ。

  1. 声を信用しない ― 本人確認を行う。

たとえ知り合いの人物に聞こえても、別の連絡方法で確認する。一度電話を切り、確認済みの番号にかけ直す。AIによるなりすましは分かりにくい。それがポイントだ。

  1. 緊急性、特に紛失した電話のクレームには注意する。

詐欺師は、新しい電話番号を偽装する際に、携帯電話を紛失した、または壊れたと説明することがよくあります。そして、すぐに「逮捕された」「銀行危機」「緊急の旅行トラブル」などと言い訳します。迅速に行動するようプレッシャーをかけること自体が詐欺そのものです。騙されないでください。

  1. 迷惑メール内のリンクは絶対にクリックしないでください。

テキストメッセージ内のリンクは、最も古くからある手口の一つであり、今でも効果的です。マルウェアのダウンロードを誘発したり、フィッシングサイトにリダイレクトしたりする可能性があります。銀行やサービスプロバイダーから連絡があった場合は、公式サイトにアクセスするか、直接電話してください。

  1. 音声の露出を控えましょう。

長時間の高音質音声クリップを公共の場で共有するのは避けましょう。著名人の場合は、所属機関や企業で検証済みの声紋ベースラインを作成することを検討してください。

  1. 情報の共有を避けましょう。

面識のない人、またはオンラインや電話でしか会ったことのない人に、機密情報を共有したり、現金、ギフトカード、暗号通貨、その他の資産を送金したりしないでください。

  1. 事件を報告しましょう。

ワシントンの混乱を考えると、不審なメッセージやなりすましの声といった些細なことを報告しても無駄に思えるかもしれません。しかし、そうではありません。真実は、連邦政府機関の職員は依然として職務を遂行しているということです。彼らは、より良く職務を遂行するために、国民の協力を必要としているのです。

公務員、親戚、あるいは信頼できる組織を名乗るメッセージや電話に少しでも違和感を感じた場合は、FBIのインターネット犯罪苦情センター(ic3.gov)に報告してください。IC3はテクニカルサポートデスクではありません。法執行機関が新たな脅威の状況を把握するための手段です。

提出されたデータは、たとえすぐにフォローアップがなくても、大規模なキャンペーンの追跡、事案の関連性の検証、そして国家的な対応の指針として役立ちます。 2020年から2024年にかけて、IC3は500億ドルを超える損失を記録しました。(https://www.ic3.gov/PSA/2023/psa230609)もし私たちが抵抗を続けなければ、この数字はさらに増えるでしょう。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • a9df9cf