関連インシデント
Fox Newsから、今朝、詐欺師がAIテクノロジーを使用して米国国務長官マルコ・ルビオのふりをし、選出および任命された役人と連絡を取っていたことがわかりました。 グレッグ・ノーマン の報道によると、
ドナルド・トランプ大統領の閣僚を装った謎の人物が、ルビオ氏の声と文体を模倣したAI音声およびテキストメッセージを使って、外務大臣、米国知事、そして国会議員に連絡を取ったと、ワシントン・ポスト紙が米国高官と国務省の電報を引用して報じた。
電報 によると、なりすまし行為は6月中旬、誰かが「Marco.Rubio@state.gov」という表示名でSignalアカウントを作成した際に始まったという。これはルビオ氏の実際のメールアドレスではない。
7月3日の電報には、偽のルビオ氏が「外務大臣3人、米国知事1人、米国議会議員1人を含む、国務省関係者以外の少なくとも5人に連絡を取った」と付け加えられている。 「国務省、米国や外国の政府関係者に連絡を取ったルビオAIのなりすまし者を捜査中」2025年7月9日
米国高官は、今回の試みは「それほど高度なものではない」と述べた。しかし、過去の経験から判断すると、こうしたディープフェイクの試みは今後、より高度なものになるだろう。
ディープフェイク検出企業であるDeep Mediaは、ディープフェイクの急速な増加に関する比較的最新の情報（2025年2月17日）を提供しています。「誤報キャンペーン：政治的ディープフェイクは過去2年間で300%増加し、選挙や公共の議論に影響を与えている。」
残念ながら、電子的な支援なしにディープフェイクを見分けるためのヒントはあまり安心できるものではありません。例えば、「ディープフェイクの音声には、ロボットのようなわずかな歪みや不自然なイントネーションが見られることが多い」や「唇の動きと完全に一致していない音声に注意する」などです。
確かにそうですが、偽造者がこれらの欠陥を修正するまでにはどれくらいの時間がか かるのでしょうか？
幸いなことに、電子的な手法によって洞察を得ることができます。
画像や動画の逆検索により、コンテンツが改ざんされているか、AIによって生成されたかを明らかにすることができます。
AI検出ツールは、デジタル指紋を分析して合成パターンを探します。「2025年のディープフェイク検出方法：[AIによる改ざんの増大する課題]」(https://deepmedia.ai/blog/detect-deepfakes-2025)
こうした痕跡は、技術の性質上、単純に「修正」することが難しくなります。そして当然のことながら、Deep Mediaは検出ツールを提供し、「ディープフェイクが高度化するにつれて、従来の検証方法では不十分になります。2025年には、リアルタイムAI検出が認証の業界標準となるでしょう」と警告しています。
これはおそらく正しい評価であり、かつての諺にあるように「百聞は一見に如かず」の世界において、Deep Mediaはまもなく多くの競合相手と出会うことになるでしょう。
ディープフェイク検出は、コンピュータシステムにおける標準的な機能となるべきです。