レポート 4024

判決は下され、それは心強いものだった。ディープフェイクは「吠えない犬」だ。英国紛争研究センターのロシア専門家、キール・ジャイルズ氏はそう語った。ジャイルズ氏は、ディープフェイクがもたらす脅威は人々の想像力に深く根付いているため、たとえディープフェイクが現れても誰も騙されないだろうと論じた。簡単に言えば、ディープフェイクには「衝撃を与える力はもうない」のだ。ティム・ファン氏もこれに同意したが、技術的な理由と実用的な理由の2つからだった。ファン氏は、ディープフェイクが作られるほど、機械学習によるディープフェイク検出能力が向上すると主張した。さらに良いことに、大手プラットフォームはディープフェイクの削除に全力を尽くしており、ディープフェイクは「大きな効果を発揮するにはユーザー数が少なすぎるサイトに追いやられている」。

私たちはこれらの主張のいずれにも同意しません。ディープフェイクは確かに「吠えている」ものの、これまでのところ、その影響は私たちの多くが見たことのない形で感じられることがほとんどです。実際、ディープフェイクは人々の生活、特に女性の生活に深刻な犠牲を強いています。デジタル技術の初期の使用でよくあることですが、女性は炭鉱のカナリアです。 Deeptrace Labsによると、ネット上に公開されているディープフェイク動画約15,000本のうち、96%はディープフェイクのセックス動画で、そのうち99%は女性の顔が同意なくポルノに挿入されているという。ディープフェイクの潜在的な危害についてよく耳にしてきた人でも、衝撃を受ける可能性は高い。ジャーナリストで人権活動家のラナ・アイユーブに降りかかった運命を考えてみよう。2018年4月、アイユーブが実際にはしていない性行為をしているディープフェイクのセックス動画が公開されると、動画は瞬く間に広まり、インドの携帯電話の半数以上に動画が表示された。アイユーブのFacebookプロフィールとTwitterアカウントは、殺害やレイプの脅迫で溢れかえっていた。ポスターには彼女の自宅住所が書かれ、匿名でセックスできると書かれていた。アイユーブは数週間、食べることも話すこともほとんどできなかった。見知らぬ人が脅迫を実行に移すのではないかと恐れ、家を出るのが怖かった。彼女は、生涯の仕事である執筆を何ヶ月もやめていた。これは、どんな基準で見ても衝撃的だ。

これは、よく知られた低技術の詐欺による脅威と本当に違うのだろうか？ そうだ。人間の認知能力は、視覚的証拠や音声証拠に説得されやすいが、特に問題のビデオや音声の品質が、人工的なものが働いていることを目や耳ですぐには感知できないほどである場合は、その傾向が強い。ビデオや音声は人々に強い影響を与える。私たちは、目や耳が語っていることを信じることができるという考えのもと、それらを真実だと信じている。さらに、ディープフェイクがわいせつで否定的であればあるほど、私たちはそれを広める傾向がある。研究者らは、オンラインのデマは正確な話よりも 10 倍速く広がることを 発見 しました。そして、ディープフェイクが私たちの視点と一致していれば、私たちは それを信じる 可能性が高くなります。さらに悪いことに、ディープフェイクの作成に関連する技術は今後数年間で急速に普及する可能性があり、その能力はますます広がるユーザーと悪用者の現実的な手の届く範囲になります。

ディープフェイクの脅威に対する認識が高まること自体が潜在的に有害です。それは、私たち 2 人 (チェスニーとシトロン) が 嘘つきの配当 と呼ぶ現象の餌食になる可能性を高めます。ディープフェイクに「騙される」代わりに、人々はすべての動画や音声の録音を信用しなくなるかもしれない。真実の衰退は道徳的に堕落した者にとって恩恵である。嘘つきは不正行為の責任を逃れ、自分たちの悪事の本当の証拠を「単なるディープフェイク」と言って却下することができる。政治家たちはすでに嘘つきの配当を利用しようと試みている。例えば、2016年に「アクセス・ハリウッド」のテープが公開された時、当時候補者だったトランプは「私は待つことすらしない。そして、あなたがスターなら、彼らはあなたにそれをやらせてくれる。あなたは何でもできる。...彼らのプッシーをつかむ。あなたは何でもできる」という自分の発言を弁護するのに苦労した。しかし、1年後、トランプ大統領は、録音は偽物か操作されたものだと言って、疑念を投げかけようとした。大統領はその後、NBCのレスター・ホルトとのインタビュー中にFBIのジェームズ・コミー長官を解任したことに関する自身の発言から距離を置こうとして、同様の主張を行った。このような試みは、私たちの目と耳だけでは偽物だと見破れない偽の動画や音声録音が可能であるという認識が高まるにつれて、今後はより受け入れられる聴衆を見つけるだろう。

ファン氏が示唆したように、テクノロジーは信頼できる検出ツールを生み出すことで本当に私たちを救うことができるのだろうか？まず第一に、私たちは、このいたちごっこで検出ツールが必然的に勝利するという主張には同意しない。生成的敵対ネットワークで作成されたディープフェイクの検出に関しては、確かにまだそこまでには至っておらず、その点に到達することについて楽観視すべきかどうかは明らかではありません。スパム、マルウェア、ウイルス、写真偽造をめぐる軍拡競争の数十年にわたる経験から、防御をすることは困難であり、敵は非常に意欲的で革新的であり、防御を突破する方法を常に見つけていることがわかりました。さらに、たとえ有能な検出技術が登場したとしても、ディープフェイクの脅威に劇的な影響を与えるのに必要な程度まで拡張可能で、拡散可能で、手頃な価格であることが保証されているわけではありません。

確かに、ディープフェイクは嘘を広める唯一の方法ではありません。チープフェイク（誤解を招く方法でビデオやオーディオを編集する低技術の方法）は、長い間、誤情報を広めるのに非常に効果的でした。 2019年5月23日、ナンシー・ペロシが酔っているか無力であるかのように見せかける、欺瞞的に編集された動画が出回り始めた。ワシントン・ポスト紙がすでにこの動画を偽物だと暴露していたにもかかわらず、大統領とその仲間たちはこの動画を大喜びで何百万人もの人々にツイートした。しかし、ディープフェイクを恐れる必要がないというわけではない。簡単に暴露されるチープフェイクがそれほど強力であることが証明されたのであれば、一見信憑性が高く、よく調べても見破るのが難しいフェイクによる被害は、より広範かつ深刻になると予想できる。

FacebookやTwitterなどの主要プラットフォームが何らかのデジタル偽造を禁止したという事実は称賛に値するが、ディープフェイクが必然的に「ユーザー数が少なすぎて大きな影響を及ぼさないサイトに追いやられる」ことを意味するわけではない。これらの禁止措置は、すぐに、あるいは完璧に実行されるわけではありません。偽物を検出し、ポリシーに違反する特定の方法で不正であると判断する必要があります (変更が検出されても、必ずしも自明ではありません)。その場合でも、被害の多くはすでに発生しています。ソーシャル メディアの投稿の半減期は数時間で測定されるため、意図が明確でポリシーが適切に実行されていても、同意のないポルノ、誤報、詐欺などのディープフェイクによる被害は、急激に拡大します。冷淡で真実を暴くような真実は、熱狂的な嘘に追いつくことは決してありません。したがって、確かにディープフェイクは、示唆されているように「怪しい場所に浸透」し続けるでしょうが、大量のプラットフォームを通じて影響を与える最高の日々は、おそらく私たちの前にあるでしょう。

今は、座ってディープフェイクに対する勝利を主張したり、ディープフェイクに対する懸念が誇張されていると示唆したりする時ではありません。コロナウイルスは、信じられる虚偽の致命的な影響を強調しており、人生最大の選挙が迫っています。これまで以上に、私たちは自分の目と耳が伝えることを信頼する必要があります。