2月7日、デリーで立法議会選挙が行われる前日、インド人民党（BJP）のマノジ・ティワリ党首が、アルヴィンド・ケジリワル政権を批判する2本の動画がWhatsAppで拡散した。一方の動画ではティワリ党首は英語で、もう一方の動画ではヒンディー語方言のハリヤンヴィ語で話していた。「[ケジリワル]は約束を盾に我々を騙した。しかし今、デリーには全てを変えるチャンスがある。2月8日にロータスボタンを押して、モディ率いる政権を樹立しよう」とティワリ党首は述べた。
動画
この44秒間の独白は、よくある政治活動の一部だと思う人もいるかもしれない。しかし、一つだけ普通ではない点がある。それは、これらの動画は事実ではなかったということだ。元の動画の 内容は次のとおりです。
動画
2020年、ディープフェイクは強力かつ懸念すべきなツールとなっています。ディープフェイクは、インターネット上の映像や音声コンテンツを操作または捏造し、非常にリアルに見せることを可能にします。ハリウッド映画の顔アニメーションによく似ていますが、それほど高価ではなく、ダークな側面もあります。2017年の導入以来、著名人の顔が既存のポルノ動画に使用されているのを目にしており、ディープフェイクは悪用される悪名高いツールとなっています。
デリーBJP IT部門が政治コミュニケーション企業The Ideaz Factoryと提携し、ディープフェイクを用いて様々な言語の有権者層に訴求する「ポジティブキャンペーン」を展開したことは、インドにおける選挙キャンペーンにおけるディープフェイクの初めての事例となった。「ディープフェイク技術のおかげで、これまでにないほどキャンペーン活動の規模を拡大することができました」と、BJPデリーのソーシャルメディア・IT部門共同責任者であるニールカント・バクシ氏はVICEに語った。「ハリヤンヴィ語の動画を使えば、候補者が有権者の母国語を話さなくても、ターゲット層に説得力を持ってアプローチすることができます。」
動画
ティワリ氏が捏造した動画は、デリーに多く住むハリヤンヴィ語を話す移民労働者に、ライバル政党への投票を思いとどまらせるために広く利用された。バクシ氏によると、これらのディープフェイクはデリーと首都圏 の5,800のWhatsAppグループに拡散され、約1,500万人にリーチしたという。
そのため、ディープフェイクを使って大衆に影響を与えるキャンペーンビジネスを構築するという見通しが、ファクトチェック機関や政策専門家を警戒させているのも不思議ではありません。ディープフェイクは、現在進行中の偽情報やフェイクニュースとの戦いを全く新たなレベルへと引き上げるだろうと多くの人が考えています。これは既に「公衆衛生上の危機」と呼ばれているです。
2017年にディープフェイクが爆発的に普及して以来、この技術は既存の有名人の動画とAIアルゴリズムを用いてフェイクポルノ動画を作成するために広く利用されてきました。実際、これらの動画の96%は、合意のないディープフェイクポルノです。ディープフェイクが前例のない、そしてそれゆえに問題視されているのは、動画の捏造に必要なコードの多くが複数のコードリポジトリウェブサイトで公開されており、動画の作成が非常に容易になっているという事実に起因しています。
政治面では、この技術が初めて注目を集めたのは2018年、バラク・オバマの物まねをしたコメディアンがディープフェイクがいかに欺瞞的になり得るかを訴える公共広告動画を配信したことでした。
動画
あまり知られていない事例として、東アフリカのガボン共和国の大統領アリ・ボンゴ氏の動画出演がディープフェイクであるとされ、最終的に同国軍によるクーデター未遂事件に発展しました結末。しかし、ディープフェイクによる政治的影響は、これまでのところ比較的限定的でした。
しかし、ディープフェイクを使った選挙キャンペーンによって、私たちは見聞きするものを信じることができない時代へと突入しようとしています。緑色の壁の前に座り、カメラに向かって話しているティワリ氏の動画は、偽造版を再現するために使用されました。ティワリ氏は実際には言っていないことを、彼自身も知らない言語で話しているのです。今回の場合、スピーチはBJPによって台本が作成され、精査され、承認された上でディープフェイクが作成されたのです。しかし、特定の層に対する脅迫や憎悪を煽るために動画を偽造する人物がいることは容易に想像できます。
人気のディープフェイク動画の多くは顔を完全に入れ替えたものです。より巧妙なバージョンとしては、元の動画の唇の動きだけを変更を、対象の音声に合わせるというものがあります。 Ideaz Factoryは、ティワリ氏の動画で後者の手法を採用したと主張している。「『リップシンク』ディープフェイクアルゴリズムを使用し、マノジ・ティワリ氏のスピーチで学習させ、音声を基本的な口の形に変換しました」と、Ideaz Factoryのチーフストラテジスト、サガール・ヴィシュノイ氏は述べている。同社は吹き替えアーティストを雇い、ティワリ氏がハリヤンヴィ語で台本を読む様子を真似させ、その音声を動画に重ね合わせた。
BJPのバクシ氏は、これらの動画への反響は励みになっていると述べている。「グループ内の主婦たちは、党首が自分の母国語を話すのを見て心が温まったと言っていました」と、WhatsAppグループに寄せられたコメントの一つを引用して述べた。この「バイラル」な反響を受けて、同党は「都市部のデリー有権者」をターゲットに、ティワリ氏が英語で話す2本目の動画を制作した。
VICEは、これらの動画をニューヨークのロチェスター工科大学（RIT）の研究者と共有しました。彼らはこれらの動画が確かにディープフェイクであると考えていますが、ディープフェイクを自動検出する専用ソフトウェアソフトウェアによる確認を待っています。Ideaz Factoryは使用された技術に関する詳細な情報の開示を拒否しましたが、RITのディープフェイク研究者であるサニアト・ジャビド・ソラワルディ氏は、「彼らの研究のタイムラインから判断すると、NVIDIAのvid2vidコードを使用したと考えられます」と述べています。このタスクを達成した他の有名なアルゴリズムは、オバマ大統領のディープフェイク動画の作成に使用されたアプリケーションであるface2faceだけです。
しかし、インドではディープフェイクにはまだ多少の遅れがあります。ティワリ氏の動画では、WhatsAppグループのメンバー数名が口の動きに一瞬の異常を指摘した。しかし、ヴィシュノイ氏は、こうした些細な問題はさておき、「これまでネガティブキャンペーンやアンブッシュキャンペーンにしか使われていなかったツールを、ポジティブキャンペーンに初めて使用した」と断言する。同氏は、自社の技術が現時点では、アルゴリズムを用いてターゲットの声を合成できるほど成熟していないことを認めている。しかし、ティワリ氏の「ポジティブ」ディープフェイクキャンペーンを、今後のビハール州選挙と2020年の米国大統領選挙にまで拡大展開する計画だ。
WhatsAppで拡散されたコンテンツを検索可能なアーカイブを構築しているシビックテックプロジェクトTattleの共同創設者、タルニマ・プラバカール氏は、「『ポジティブ』キャンペーンの売り文句の問題は、魔法のランプから精霊を出してしまっていることだ」と述べている。つまり、たとえ企業が何らかの形で自主規制を行い、悪質な動画を制作しないと決めたとしても、他の、おそらくそれほど露骨ではない企業が、この技術を武器にする別の方法を考え出すだろうということです。「政党によって一部のディープフェイクだけが認められていると言うことは、誰がそれらの形式を定義するかについて、多くの主観と解釈の余地を残してしまいます」とプラバカール氏は言います。
ツールやサービスの増加に支えられ、ディープフェイクが増加したことで、専門家でなくてもディープフェイク動画を簡単に作成できるようになりました。Ideaz Factoryは、こうしたアクセスから利益を得るためにインドで急増した数社のうちの一つに過ぎません。世界中にはディープフェイクポータルや個人ユーザーが広告、わずか30ドルでカスタムディープフェイクを作成しています。言うまでもなく、この参入障壁の低さは、より多くの隠れたディープフェイク制作者を生み出 し、ディープフェイクの数は2019に倍増しました。
これはまた、ディープフェイクコンテンツのほとんどが、その脅威を抑制しようとしているファクトチェックや技術専門家、情報源を必然的にすり抜けてしまうことを意味します。ソーシャルメディア上の主張や主張を検証するインドのファクトチェックウェブサイトAltNewsの創設者、プラティック・シンハ氏は、VICEに対し、「現時点では、改ざんされていると認識できないものをファクトチェックしたり検証したりすることは不可能です」と述べています。VICEがシンハ氏に動画の信憑性を確認するよう依頼したところ、AltNewsはそれを偽物だと判断できませんでした。 「これは危険です」とシンハ氏は語る。同氏の組織は設立から3年間で、数千枚ものモーフィング画像や加工された動画のファクトチェックを行ってきた。「インドでこのような事態が起きるのは初めてです」
インドのようにデジタルリテラシーがまだ未成熟な国では、低技術の動画加工でさえ暴力につながることがある。2018年には、インドでWhatsAppで拡散された噂に関連して30人以上が死亡した。「ディープフェイクは、私たちが抱える誤情報をさらに増幅させるでしょう」とシンハ氏は述べた。ディープフェイクを確実に検出できるツールは現時点では存在しないが、研究者たちは開発に取り組んでいる。偽動画を検出するためのブラウザプラグインであるReality Defenderもその一つだ。
しかし、シンハ氏のような専門家は、インドではディープフェイクを使った選挙キャンペーン事業を合法的に行う企業は認められるべきではないと考えている。昨年10月、米国カリフォルニア州は選挙後60日以内に政治家のディープフェイク動画を流布することを違法とする法案を可決した。この法律は、有権者を偽情報から守るために制定された。しかしプラバカール氏は、インドではディープフェイクを違法化しても、政党が公然と支持することは決してないため、実施には失敗する運命にあると付け加える。「ディープフェイクは影の企業によって運営され続けるだけだ」と彼女は言う。
しかし、解決策はあるかもしれない。ヴィシュノイ氏は、偽情報全般に関する政府の政策が必要であり、ネガティブなディープフェイクに対抗する方法は啓発キャンペーンを通じてだと考えている。しかし、RITサイバーセキュリティセンター所長のマシュー・ライト博士は、選挙キャンペーンにおけるディープフェイクの出現を「情報開示さえされれば、潜在的にプラスの活用事例」と見ている。「適切な言語への翻訳が容易に入手できると仮定すれば、なぜ政治指導者の情報は読める人しかアクセスできないのでしょうか？」とライト博士は問いかける。「しかし、もしそれが欺瞞的に利用されるなら話は別で、境界線を曖昧にする人もいるでしょう。」