関連インシデント
総選挙前にAIがもたらすリスクについて警鐘を鳴らしている調査によると、先月だけでFacebookで宣伝するためにリシ・スナックになりすましたディープフェイク動画広告が100本以上も支払われた。
広告はFacebookのポリシーにいくつか違反しているように見えるにもかかわらず、最大40万人に届いた可能性があり、首相のイメージが組織的に大量に改ざんされたのは初めてだ。
143本の広告に1万2929ポンド以上が費やされ、発信元は米国、トルコ、マレーシア、フィリピンなど23カ国。
広告の中には、BBCのニュースキャスター、サラ・キャンベルが、スナックが「当初は一般市民向けだったプロジェクトから莫大な金額を密かに稼いでいた」というスキャンダルが勃発したという虚偽の主張を報じる速報を読み上げているように見える偽の映像も含まれている。
この動画には、イーロン・マスク氏が株式市場の取引を「収集」できるアプリケーションを立ち上げたという虚偽の主張が書かれており、それに続いて、政府は一般市民の金 銭を危険にさらすよりもそのアプリケーションをテストすることに決めたとスナック氏が語る偽の動画が流れる。
動画はその後、詐欺的な投資を宣伝する偽のBBCニュースページにつながる。
この調査は、元ダウニング街職員で、コロナ危機の際に首相官邸の陰謀論対策を指揮したマーカス・ビアード氏が設立した通信会社、フェニモア・ハーパー社によって実施された。
同氏は、偽物の質の変化を示すこの広告は、今年の選挙が大量の高品質なAI生成の虚偽によって操作される危険にさらされていることを示していると警告した。
「安価で使いやすい音声や顔のクローンの登場により、人の肖像を悪意のある目的で利用するのに、ほとんど知識や専門知識は必要ありません。」
「残念ながら、この問題は有料広告の緩いモデレーションポリシーによって悪化しています。これらの広告は、Facebook の広告ポリシーのいくつかに違反しています。しかし、私たちが遭遇した広告のうち、削除された広告はほとんどないようです」
Facebook を所有する Meta にコメントを求めた。
英国政府の広報担当者は次のように述べた。「私たちは、民主主義を守るタスクフォースと献身的な政府チームを通じて、民主主義のプロセスに対するあらゆる脅威に迅速に対応できるよう、政府全体で広範囲に取り組んでいます。
「私たちのオンライン安全法は、違法な誤報や偽情報を、AI によって生成されたものも含め、認識次第、迅速に削除するという新しい要件をソーシャル プラットフォームに課すことで、さらに進んでいます。」
BBC の広報担当者は次のように述べた。「偽情報が増える世界では、信頼できる情報源からニュースを入手するよう、すべての人に強く求めます。私たちは、偽情報の脅威の高まりに対処するため、2023年にBBC Verifyを立ち上げました。調査、ファクトチェック、動画の検証、偽情報への対抗、データの分析、複雑なストーリーの説明を行うために、さまざまなフォレンジックおよびオープンソースインテリジェンス（OSINT）を備えた高度に専門化されたチームに投資しています。
「私たちは、BBCのジャーナリストが報道する情報をどのように把握しているかを示し、偽物やディープフェイクのコンテンツを見分ける方法を説明することで、視聴者との信頼関係を築いています。偽のBBCコンテンツに気付いた場合は、迅速に行動します。」
規制当局は、11月に実施される予定の次期総選挙までに、英国の選挙制度が人工知能の進歩に追いつくよう徹底的な改革を施行する時間がなくなりつつあることを懸念している。
政府は選挙管理委員会を含む規制当局と協議を重ねており、選挙管理委員会は、2022年からの法律に基づくデジタル選挙資料に「インプリント」を含めるという新たな要件は、有権者が広告費を支払った人物や自分たちに影響を与えようとしている人物を確実に見極めるのに役立つと述べている。
Meta の広報担当者は次のように語っています。「当社は、AI によって作成されたか人間によって作成されたかにかかわらず、ポリシーに違反するコンテンツを削除します。これらの広告の大部分は、このレポートが公開される前に無効にされており、レポート自体にも、実際に配信された広告を 1 つでも見た英国のユーザーは 0.5% 未満だったと記されています。
「当社は 2018 年以来、社会問題、選挙、政治に関する広告について業界をリードする透明性を提供してきましたが、今後もこうした取り組みを改善し続けます。」