2024年2月6日火曜日、懸念を抱いた個人が、ノーベル平和賞受賞者でラップラーのCEOであるマリア・レッサが暗号通貨ビットコインで収入を得ていると述べたように見えるディープフェイク動画についてラップラーに警告した。ディープフェイク動画は、2022年11月のアメリカのトークショー司会者スティーヴン・コルベアによるレッサへのインタビューを自身の番組で操作したものだ。動画は、新しく作成されたFacebookページとMicrosoftのBingプラットフォーム上の広告を使用して配布された。MicrosoftとFacebookはその後、ディープフェイクを配布した投稿と広告を削除した。ラップラーがスウェーデンのデジタルフォレンジックグループQuriumと協力した追跡調査では、偽造者が残したデジタル指紋を使用して、ディープフェイクがロシアの詐欺ネットワークに関連していることがわかった。調査では、キャンペーンが特にフィリピンの視聴者をターゲットにしていたことも示された。 ##### ディープフェイクの発見 ディープフェイク動画は、2024年1月25日に、その数日前に作成されたFacebookページ「Method Business」で最初に発見されました。動画が投稿されてから21時間後には、すでに22,000回の再生回数を獲得していました。（下のスクリーンショットを参照してください。） 
新しく作成されたFacebookページ。マリア・レッサのビットコインディープフェイク動画を流布したFacebookページは、ディープフェイクを投稿するわずか数週間前に作成されました。執筆時点ではまだアクティブです。 Rappler はその後、URL ultimainv.website でホストされているウェブページについても警告を受けました。このページは、Rappler と CNN Philippines のウェブサイトから記事ページを交互に複製していました。この偽サイトは、Microsoft の Bing プラットフォームで配信される広告を通じて宣伝されていました。(以下のスクリーンショットで Rappler で囲まれた広告) 
広告で宣伝されたディープフェイク。Maria Ressa のビットコイン ディープフェイク ビデオが埋め込まれた偽ウェブサイトへのリンクも、Microsoft の Bing プラットフォーム上の広告を通じて宣伝されていました。Ultimainv.website は新しく登録されたドメインです。ドメイン履歴の最初の記録は、2024年1月10日のものである。ディープフェイク動画の作成者は、コルベアが2022年11月にレッサ氏に、彼女の著書「独裁者に立ち向かう方法」と、フィリピンの元大統領ロドリゴ・ドゥテルテ氏の扇動により彼女とラップラーに対して提起された訴訟について質問したインタビューを操作した。操作された動画では、AIによって生成された偽の音声が使用され、レッサ氏の声を模倣していた。ほとんどの場合、偽の動画では、彼女が音声と同期して話している様子が示されていた。しかし、同期が失敗したことが何度かあり、これがディープフェイク動画であることを示す最も強力な兆候であった。以下に埋め込まれた動画では、元のインタビューと、AIによって生成された音声を含む操作された動画を比較している。この動画は、注意を払っていないユーザーや、AI技術がどのように音声をコピーできるか、またはディープフェイク動画がどのように見えるかを知らないユーザーには説得力があるように見えるかもしれない。 Rappler は Meta にこの動画を報告し、その後動画は削除されたが、Method Business というページは引き続きアクティブである。Rappler と CNN Philippines を模倣したウェブページに掲載された偽記事は、ビットコインへの投資を騙し取ろうとするだけでなく、Ressa が詐欺に関与していたことを示唆していた。「マリア・レッサは生放送での発言で訴えられる可能性がある」という見出しの CNN Philippines と Rappler の偽記事は、生放送での発言が原因で Ressa のキャリアが「危うい」と主張していた。偽のウェブサイトを宣伝する広告は、「彼女の最後は?」という文をリード文として使い、Ressa がスキャンダルに巻き込まれたことを示唆していた。偽記事はまた、大手銀行が生放送を中止し録画を消去するよう要求したため、生放送が中断されたと主張していた。 （偽記事のスクリーンショットは下記をご覧ください。） 
##### ロシア発祥、フィリピンの視聴者をターゲットに 動画や偽のRapplerおよびCNN Philippinesの記事が掲載されたページも、フィリピンのインターネットサービスプロバイダー（ISP）でのみ閲覧できるように作られていました。ディープフェイクを調べた捜査官は、自分の所在地から偽サイトを閲覧するためにさまざまな手法を駆使する必要がありました。これは、ディープフェイクの背後にいる者たちが特にフィリピン人をターゲットにしていたことを示唆している。CNNフィリピンのウェブサイトは、偽記事の公開日である2024年2月5日の数日前の2024年2月1日にすでに閉鎖していた。スウェーデンのデジタルフォレンジックグループQurium Mediaとの追跡調査により、後にクローンサイトは、被害者を騙して商品の代金を支払わせる詐欺的なオンラインネットワークの一部であることが判明した。商品の代金は、配達時にはたいてい空箱か、品質の悪いランダムな物体として終わる。 Quriumによると、このネットワークはロシア起源のようだ。ネットワーク内で見つかったリンクにはキリル文字が使用されており、タイムゾーンのタイムスタンプはGMT+3（モスクワ、サンクトペテルブルク）だった。Quriumによると、これはこのネットワークがロシア起源であることを示す「確かな証拠」ではあるが「決定的な証拠ではない」という。偽ウェブサイトの開設に使用されたプラットフォーム上のコンテンツはロシア語である。Quriumは、偽サイトのドメイン登録およびホスティング情報データ、偽サイトの画像および埋め込み動画のメタデータ、偽ページを作成するために元のCNNおよびRapplerウェブサイトからスクレイピングされた元の記事のメタデータを分析した。キャンペーンは2023年11月28日から2024年2月25日まで実施された。Quriumのネットワーク分析では、操作を別々のエンティティに分割して否認と匿名性を可能にすることで法的責任を回避する精巧なスキームが明らかになった。 Qurium が発見したこの詐欺ネットワークは、詐欺の責任を誰も負わないようにする複数の役割のスキームを使用しています。役割は次のとおりです。 - アフィリエイト広告主または発行者 これは、潜在的な被害者の名前と電話番号を仲介者に収集する Web ページです。この場合、仲介者は「M1 Shop」です。Qurium は、サイトで「商品を宣伝するだけで、商品に関連する責任は一切負わないことを明確にしています」と述べています。この場合のアフィリエイト広告主は「TD Globus Contract」であると特定されました。偽の CNN および Rappler ページをホストしていた ultimainv.website とは別に、TD Globus Contract には、詐欺ネットワークと関係のある 40 を超える他の Web サイトへのリンクがあることがわかりました。 - 仲介者 仲介者 (M1 Shop) は、被害者の情報を発行者から受け取り、料金を支払って広告主に転送します。彼らは、受け取った情報や、被害者をM1ショップに誘導するパブリッシャーのウェブページが生成したクリックに対して、パブリッシャーに支払いを行う責任がある。 - 広告主 広告主は詐欺的なオファーを作成するが、今回のケースでは、それは栄養食品から暗号通貨のオファーまで多岐にわたる。Quriumは、詐欺が機能するのは、広告主の身元が仲介者によって保護され、パブリッシャーまたはウェブページが「評判が損なわれたら」変更されるためだと説明した。「結局のところ、詐欺の責任を取る人は誰もいません」とQuriumは述べた。「製品を宣伝するウェブサイトは偽の会社として登録されており、最終製品のベンダーを知らないと主張し、広告ネットワークはプラットフォームで宣伝されているものを監視していないと主張しています。しかし、被害者が詐欺に遭い、ネットワーク内のすべての人が「サービス」に対して支払いを受けることは確実です。」一方、M1は詐欺ネットワークで「仲介役」を演じ、悪質な広告主を精査から隠しています。 Rapplerはすでに、ウェブサイト上のTelegramアカウントを通じてM1ショップに連絡を取っている。M1から返答があったら、このストーリーを更新する予定だ。 ##### 潜在的な危害 ディープフェイク動画は説得力があり、強力な説得力を持つため、詐欺師はそれを利用しようとする。しかし、潜在的な動機は他にもある。インドでは、政治家がディープフェイクを使用して反対派を中傷したり、有権者を混乱させたりしている。台湾では、2024年の大統領選挙を前にディープフェイクと安価な偽物がオンラインで拡散された。インドネシアでも、大統領選挙を控えてディープフェイクが使用されていた。偽情報の本質は、時にはあからさまな嘘ではない。多くの場合、それは単に視聴者の心に後で悪用される可能性のある種を植え付けるためだけのものである可能性があると、Quriumはレポートで付け加えた。動機に関係なく、ディープフェイクは潜在的に非常に強力な嘘のように世論を動かすために使用される可能性があり、これは国政選挙や暴力的な状況など、急速に変化するシナリオなどの状況で特に有害です。この特定のケースでは、意図が人々を騙すことだった場合、詐欺師はマリア・レッサのディープフェイクを使用することで、最終的には存在しない製品に投資するよう一部の人々を説得できると考えた可能性があります。この偽キャンペーンは、ジャーナリストの権威ある発言者としての評判を悪用し、彼女を犠牲にしようとしたのかもしれない。他の権威者も被害者となり、評判が危険にさらされる可能性がある。RapplerとQuriumがこの特定のディープフェイクを調査している間に、フィリピン人ビジネスマンが関与する類似のものも、同様のプロセスを経て流通したようだ。ごく最近では、GMA7ネットワークのアンカーを使用したディープフェイクが、バチカンから来たとされるネックレスの宣伝に使用された。他の可能性もある。マリア・レッサのディープフェイクで興味深いのは、偽のCNNフィリピンとRapplerサイトを宣伝していたBingの広告が、商品を宣伝しているようには見えないことだ。それらはレッサに関わるスキャンダルをほのめかしていた。 「レッサのディープフェイク動画について特に懸念されるのは、デジタル操作の1つの行為の背後にある悪意の層と、それがもたらす結果的な被害です」とデ・ラ・サール大学コミュニケーション学部のシェリル・ソリアーノ教授はラップラーに語った。ソリアーノ教授は、YouTubeなどのプラットフォームでの偽情報の調査を行っており、ディープフェイク動画を発見してラップラーに警告した1人だ。ソリアーノ教授は「まず、このディープフェイク動画は詐欺を広めようとしている。次に、この詐欺をニュースのように見せかけ、ラップラーやCNNフィリピンを装い、報道機関の信頼性を損なっている。そして、マリア・レッサの評判を中傷することで、彼女の信用を失墜させようとしていることは明らかだ」と語った。ソリアーノ氏は、ディープフェイクは「ディープフェイクを利用して女性を辱めるという、女性蔑視的な慣行の不穏な傾向を永続させている。詐欺そのものが失敗したとしても、後者の3つは暴露され永続化され、ネットワーク化された公衆に広まる」と付け加えた。 ##### ディープフェイクの脅威への対処 ファクトチェックグループや偽情報の専門家の間では、生成型AI技術が一般市民に容易に利用できるようになった今、ディープフェイクの問題は今後も拡大し続けるだろうという一般的なコンセンサスがある。そのため、影響を軽減するには、プラットフォームによる微妙かつ即時の対応が重要になる。マリア・レッサのビットコイン・ディープフェイクを流通させたプラットフォームであるFacebookとMicrosoftは、さまざまな公式声明で、ディープフェイクに対処するプログラムがあると述べている。 Facebookの所有者であるMetaは、最近発表された声明で、動画や音声を含むAIコンテンツを識別するための共通の技術標準について業界パートナーと連携していると述べた。同社は、ユーザーが投稿する画像にこれらの業界標準の指標を検出した場合にラベルを付けると述べた。また、製品の発売以来、Meta AIを使用して作成されたフォトリアリスティックな画像にラベルを付けていると述べた。Rapplerとの電子メールインタビューで、Microsoftの広報担当者は、2023年4月以降、自動と手動の両方の方法を使用して、詐欺や誤解を招く活動に関与している52万のアカウントを閉鎖したと述べた。同社は、今後同様の事件を検出できるよう、事件ごとに知識ベースを構築しており、情報の完全性と誤解を招くコンテンツに関するポリシーを制定したと述べた。マイクロソフトの広報担当者は、ディープフェイクを検出する技術にも投資していると述べた。「ディープフェイクの識別にはAIも活用されています。マイクロソフトのような大手企業は、こうした高度な偽造品を検出する技術の開発に多額の投資を行っています。」マイクロソフトは、コンテンツの真正性と出所に関するオープンな業界標準の採用を促進する取り組みであるコンテンツ完全性イニシアチブでAdobeと協力しているテクノロジー企業や報道機関のグループにも参加している。 ##### AI生成の偽造品検出の課題 ただし、AI生成の偽造品の自動検出には課題がある。マイクロソフトの広報担当者は、悪意のある人物は検出を逃れるために高度な技術を使っていると述べた。「AI技術は前例のないペースで進歩しており、ディープフェイクの作成を可能にする新しいプラットフォームが世界中で毎日のように登場しています。理想的には、そのようなコンテンツを制作する企業は、簡単に検出できるように透かしや同様の技術を実装するでしょう。しかし、課題もあります。透かしを削除できる技術はすでに存在しています」と広報担当者は述べた。ディープフェイクを作成するための技術のほとんどはオープンソースでもあり、無料で利用できるソフトウェアを指し、誰でも再配布および変更することができます。マイクロソフトは、これにより透かしコードの変更や削除が可能になり、「検出作業が複雑になる」と述べています。大規模言語モデル（LLM）のソースコードを誰でも調査、コピー、変更できるように公開する慣行は、生成AI技術の開発を加速させる上で重要な役割を果たしてきました。実際、大手テクノロジー企業でさえ、独自のLLMのバージョンを公開しています。 2023年7月、Metaは人工知能モデルであるLlamaのオープンソース版をリリースしました。さらに最近では、Googleも独自のAIモデルであるGeminiのオープンソース版であるGemmaをリリースしました。言語モデルをオープンソース化することで、言語モデルの透明性と監査可能性を高めることができるかもし れないが、一部の専門家は、セキュリティ保護されていないAIシステムの最大の脅威は悪用の容易さにあり、これらのシステムは「高度な脅威アクターの手に渡ると特に危険」になると指摘している。 #### AIの悪用を防ぎ、偽造者に責任を負わせる AIモデルのソースコードでさえ、今では誰でも自由に変更できるようにアクセスできるため、特定のディープフェイクのソースを追跡する機能を持つことが非常に重要になる。上に示したように、偽造の背後にいる人々は通常、デジタルシステムを使用するときに自分が誰であるかの痕跡を残す。しかし、責任のあるアクターを追跡できるデータの多くは、依然としてプラットフォーム内に存在している。「偽情報の最大の課題は嘘ではなく、偽情報を広める人々の説明責任の欠如です」とQurium氏は述べた。スウェーデンの団体はまた、ディープフェイクから利益を得て偽情報の蔓延を許しているMetaなどのプラットフォームを批判した。マイクロソフトの広報担当者は、ディープフェイクの使用は「新たな脅威」であり、プラットフォームはさらなる対策を講じる必要があると認めた。「マイクロソフトではさらなる対策を講じる必要があり、業界、政府、その他すべての関係者が役割を果たさなければならない」同社は、法執行機関との協力やその他の法的、技術的措置に加えて、最近では「世界中の有権者を欺くためのディープフェイクの使用に対抗するための業界イニシアチブの推進に貢献し](https://blogs.microsoft.com/on-the-issues/2024/02/16/ai-deepfakes-elections-munich-tech-accord/)、AIの悪用に対処するための法的枠組みの提唱を行った」と述べた。 Metaの広報担当者はメールでRapplerにこう語った。「Metaのコミュニティ規定は、AIが作成したか人間が作成したかに関係なく、Facebook上のすべてのコンテンツと広告に適用され、今後もポリシーに違反するコンテンツに対して措置を講じていきます。報告された動画は、当社の詐欺と欺瞞ポリシーに違反しているため削除しました。」これらの対策が、今後数か月でますます増えると予想されるディープフェイクの急増に対処するのに十分かどうかは、まだ分からない。マイクロソフトがultimainv.websiteを宣伝する広告を削除した数日後、プラットフォーム上に新しい広告が再び現れた。その広告は、前述のRapplerの偽サイトと同じコンテンツを持つサイトにリンクされていたが、新しく作成された別のドメインにあった。モグラ叩きゲームは続く。--Rappler.com