ここ数週間、リトアニアのソーシャルメディアでは、実際のニュース番組を模倣したAI生成のディープフェイク動画が大量に拡散し、偽の医療製品を宣伝したり、ワクチン反対の偽情報を拡散したりしている。
捜査当局はリトアニアの公共放送局LRTに対し、これらの偽動画は複数のヨーロッパ諸国を標的とした国際的な詐欺ネットワークの一部であると述べた。
これらのディープフェイク動画は、リトアニアの有名テレビ番組を模倣し、著名人への偽のインタビューを盛り込んでいる。ある動画では、欧州議会議員で元保健大臣のアウレリウス・ヴェリガ氏のディープフェイク動画が、目の健康に関する商品を宣伝しているように見える。
「2025年になっても、もしあなたがまだ目についた目薬をすぐに目に入れているなら、あなたは無知か、全くの愚か者かのどちらかだ」とヴェリガ氏のディープフェイク動画は述べている。
別の動画では、ディープフェイクされた有名医師がワクチンが有害であると虚偽の主張をしながら、医薬品を宣伝している様子が映し出されています。
高度な欺瞞
これらの偽動画は、ソーシャルメディアやテレビで公開されている映像を使用して作成されており、そのなりすましは不気味なほどリアルになっています。
リトアニアのファクトチェック活動Debunk.orgの責任者であるヴィクトラス・ダウクシャス氏によると、研究者らはこれまでに同様の動画を20本特定しており、すべてFacebookから削除されているとのことです。しかし、このコンテンツは既にEU全域で広く拡散していた。
「このキャンペーンでは、リトアニアでこれまで検出された中で最も高品質なディープフェイク動画が使用されています」とダウクシャス氏はLRTに語り、「誤りは一部の文法上のケースと強勢のパターンにのみ見られます」と付け加えた。
ダウクシャス氏によると、詐欺師たちは、特にワクチンの安全性に関するセンセーショナルな主張で注目を集めるために動画を作成し、その後、反ワクチン派のソーシャルメディアグループを利用してコンテンツを拡散させたという。投稿に埋め込まれたリンクは、ユーザーを金銭を詐取するための詐欺サイトにリダイレクトしていた。
ダウクシャス氏は、この詐欺コンテンツはEU全域で数十万人が視聴した可能性が高いと付け加えた。
「その数は膨大です。これらの欺瞞広告はEU加盟14～15カ国で表示されています。既に20以上のアカウントが発見されており、毎日新たなアカウントが発見されています。視聴回数は数十万回以上になると思います」と彼は述べた。
「新たなレベルの詐欺」
リトアニアの国家危機管理センター（NCMC）は、偽情報を含 む国家緊急事態への対応を調整する責任を負う国家機関であり、このキャンペーンを「新たなレベルの詐欺」と表現し、AIを活用した偽情報の脅威の増大について警告した。
当局は、欺瞞行為に加え、犯人の追及においても大きな課題に直面している。犯人の多くは、リトアニアの法執行機関と協力しないロシアや、紛争の影響で捜査が困難なウクライナなどの管轄区域から活動している。
NCMCは、ソーシャルメディア企業に対し、ディープフェイク動画の検出と削除を強化するよう求めている。
国境を越えた取り組み
専門家は、この種の詐欺と闘うには、国境を越えた協調的な行動が必要だと強調している。
「法執行機関の役割は、分析を続けることです。これは国際的なグループであり、国際的な活動であることが分かりました。これらの事件の捜査には国際的な取り組みが必要です」とダウクシャス氏はLRTに語った。
「リトアニア警察だけでは解決できません」と同氏は付け加えた。