レポート 6863

10月、保守党議員ジョージ・フリーマン氏は、友人や同僚から裏切りを非難するメッセージが殺到した。「彼らは私を罵倒し、『まさかあんなことをされるとは思わなかった』と言ってきました。何が起こったのか理解できませんでした」と彼は語った。

「そして、動画を見ました。議会の自分の事務所で、タンクトップ姿で腕を振り回し、いつもの私らしく話し、20年間勤めた保守党にはもううんざりだ、もう破綻した組織だ、だから改革党に入党する、と宣言していたのです」

FacebookとXに投稿された動画は、人工知能（AI）を使って、元技術大臣がナイジェル・ファラージ氏の党への離党を発表したように見せかけたディープフェイク動画だった。「動画は拡散していました」とミッド・ノーフォーク選出議員は語った。

「評判を築くために一生懸命努力したのに、たった15秒で誰かがキャリアを台無しにしてしまうことがある」

ジョージ・フリーマン議員

「ホワイトシティの地下道で3人のティーンエイジャーに襲われた経験があり、その時も同じような気持ちでした。政治の世界では、評判を築くために一生懸命努力し、自分の考えを述べ、慎重に言葉を選びます。ところが、たった15秒で、知らない誰かが匿名という安心感から、取り返しのつかない形でキャリアを台無しにしてしまうことがあるのです。」

フリーマン議員はFacebookを所有するMeta社に連絡を取りました。「彼らは『当社のガイドラインに違反していない』と言いました。性的グルーミングでも、暴力的なテロリズムでも、過激主義でもないことは理解していますが、選出された代表者が故意に、そして悪意を持って、完全に虚偽の表現をされるというのは、かなり深刻な問題です。」

彼は偽の動画について警察にも通報し、「このように他人の身元を利用することを禁じる法律はない」と知りました。

フリーマン氏は現在、下院議長のリンゼイ・ホイル氏をはじめとする全党の議員らと、政治的ディープフェイクを違法化する方法について協議している。「これは保守党だけの主張ではありません。民主主義プロセスの完全性を守ることは、私たち全員の共通の利益です」と彼は述べた。 「政治には長く誇り高い風刺の伝統があることは非常に重要です。私はそれを歓迎しますが、これは違います。

選挙前日に誰かを誤解させる動画が公開され、有権者が『私は彼らに投票しない、これは恥ずべきことだ』と発言し、民主主義が完全に腐敗してしまうことを想像してみてください。」

世界中で政治ディープフェイクが蔓延しています。先月、フランスでクーデターがあったと主張する偽ニュースが拡散しました。その報道は非常に説得力があり、エマニュエル・マクロン大統領はアフリカの国家元首から連絡を受け、政府に何が起こったのか尋ねられました。

10月、アイルランド大統領選挙の数日前、候補者の一人であるキャサリン・コノリー氏が選挙からの撤退を発表する様子を映したとされる動画がオンライン上に登場しました。コノリー氏は当選しましたが、このディープフェイクを「有権者を欺き、民主主義を損なう恥ずべき試み」と評しました。

2024年11月に予定されていたルーマニア大統領選挙の第1回投票は、ロシアによるディープフェイク動画への介入に関する信頼できる報道を受けて無効とされた。モルドバでは、東西の二者択一と目されていた昨年の重要な選挙を前に、ディープフェイク動画が氾濫した。

キア・スターマー首相、サディク・カーンロンドン市長、ウェス・ストリーティング保健相らが標的となった。

女性政治家の画像がAIで加工され、ディープフェイクポルノが作られるという事態も深刻だ。昨年の英国総選挙の直前には、アンジェラ・レイナー元労働党副党首やプリティ・パテル影の外務大臣を含む30人以上の女性候補者のデジタル加工された画像が、性的に露骨なウェブサイトに掲載された。

ロウストフト選出の労働党議員ジェス・アサト氏は、「言論の自由の線引きについては議論の余地があるが、性的な描写は…」と述べた。政治家は完全に間違っている。全く真実ではないものがどれほど迅速かつ容易に作られるかを心配しています。」

「これは明らかに外国による干渉の手段ですが、誰かが自宅のガレージで、気に入らない人物のディープフェイクを作っているだけかもしれません。」

選挙管理委員会のビジェイ・ランガラジャン委員長

選挙を監督する独立機関である選挙管理委員会は、潜在的な脅威を非常に懸念しており、5月に行われる地方選挙、スコットランド選挙、ウェールズ選挙を前に、政治的ディープフェイクを特定し削除するための新たな部署を設置しています。

内務省と共同で開発されているこのシステムは、Facebook、X、TikTok、Instagramなどのソーシャルメディアサイトをスキャン・監視します。ウェールズ語と英語の両方で、AIによって生成された偽コンテンツを検出できるようになります。

ディープフェイクが報告された場合、委員会は直ちにプラットフォームに通知し、投稿の削除を試みます。候補者と政党にも警告が発せられます。政治家はディープフェイクがオンラインで拡散しているのを発見した場合、委員会に連絡して支援を求めることができる。

委員会の最高経営責任者（CEO）であるビジェイ・ランガラジャン氏は、AI技術の普及により、動画作成の「参入障壁」が劇的に低下したと述べた。「これは明らかに外国による干渉の手段となるが、誰かが自宅のガレージで、気に入らない人物のディープフェイクを作っているだけかもしれない」とランガラジャン氏は述べた。「法律は、こうした進化する脅威すべてに対応していく必要がある」

選挙管理委員会の調査によると、有権者の4分の1が前回の総選挙でディープフェイクの動画、音声、または写真に遭遇したと回答した。「政治への信頼は非常に低い」とランガラジャン氏は述べた。「放置すれば、『目にするものが何も信じられない』という感覚を助長し、人々がそのことを知らないだけで投票に行きたがらなくなる可能性がある」

ランガラジャン氏は、委員会は深刻化する問題に積極的に取り組む決意を強調した。「世界中の選挙でディープフェイクが使用されているのを目にしてきた」有権者を誤解させる可能性があるため、私たちは英国でこれを検出することで、先手を打とうとしています。検出していること、そして徹底的に監視していることを人々に伝えるだけで、人々がこれを使用することを思いとどまらせることができることを願っています。

「私たちは、これが民主主義への脅威とならないように努めていきます。英国の選挙結果に影響を与えたとは考えておらず、今後もその状態を維持したいと考えています。」

イラスト：Observer Design