今月、インターネット上で拡散した、非常に説得力のある一連のフェイクニュース動画が、リトアニアの住民を驚かせました。ディープフェイクと呼ばれる人工知能技術を用いて作成されたこれらの偽動画は、複数のヨーロッパ諸国を標的とした国際的な詐欺ネットワークの一部であると考えられています。
ディープフェイク動画は、リトアニアでよく知られているテレビニュース番組を模倣したもので、ジャーナリスト、政治家、医師を起用した偽のインタビューも含まれています。ある動画では、欧州議会議員で元保健大臣のアウレリウス・ヴェリガ氏のディープフェイク版が、目の健康に関する製品を宣伝しているように見えます。
「2025年になっても、まだ目についた目薬をさしているなら、あなたは無知か、全くの愚か者かのどちらかです」とヴェリガ氏のディープフェイク動画は述べています。
別の動画では、医師のヴィタウタス・カシュレヴィチュス氏が、ワクチンは健康に有害であると主張しながら、医薬品を宣伝しています。
ヨーロッパ全域で活動中
改ざんされた動画はFacebookを通じて拡散され、複数のEU加盟国で視聴されました。ファクトチェック機関Debunk.orgの責任者であるヴィクトラス・ダウクシャス氏によると、研究者らは20本の動画を発見し、現在ブロックされています。
専門家らは、これほど高品質なフェイク動画はリトアニアではこれまで見られなかったと指摘しています。
「誤りは一部の文法上のケースと強勢のパターンにのみ見られます。このキャンペーンでは、これまでリトアニアで検出された中で最も高品質なディープフェイク動画が使用されています」とダウクシャス氏は述べています。
同氏は、これらの動画はソーシャルネットワーク上で公開されている著名人や政治家の映像を使用して作成されたと説明しました。
国家危機管理センター（NCMC）はこのキャンペーンを「新たなレベルの詐欺」と呼び、フェイク動画の高度な性質に懸念を表明しました。
ダウクシャス氏によると、詐欺師たちはワクチンの有害性に関するセンセーショナルな見出しを利用して注目を集めていたとのことです。その後、反ワクチン活動家たちは、金銭を詐取するための詐欺リンクを拡散しました。
「これにより認知度が高まり、より多く の人が騙された」と彼は指摘しました。
ダウクシャス氏は、これらの詐欺コンテンツはEU全体で数十万人に閲覧された可能性が高いと付け加えました。
「その数は膨大です。これらの欺瞞的な広告は、EU加盟国約14～15か国で表示されました。既に20以上のアカウントが発見されており、毎日新たなアカウントが発見されています。閲覧数は数十万回以上になると思います」と彼は述べました。
詐欺師の手口は進化している
SurfsharkのITセキュリティ責任者であるトーマス・スタムリス氏は、詐欺師は以前にも同様の手口、つまりメディアを装って偽記事を作成していたと指摘しました。しかし、現在では偽記事は非常にリアルで、作成速度も速くなっています。AIによるリトアニア語の理解も向上しています。
「以前は、レポートに登場する人物を本物らしく見せるために、デザイナー、技術専門家、エンジニアによる多大な労力が必要でした。今では、いくつかのAIツール、適切なプロンプト、そしていくつかの写真サンプルだけで、非常にリアルに見え、人々を騙せるレポートを作成できます」と彼は述べた。
スタムリス氏は、歪んだ耳や指といった、AIが生成した偽画像が従来見せかけていた特徴はもはや信頼できないと説明した。多くの場合、加工された動画は一般の視聴者には完璧に見える。
「批判的に考えることが非常に重要です。自分自身に問いかけてみてください。情報源は1つだけでしょうか、それとも複数のポータルや人物からでしょうか？リンクはどこにつながっていますか？例えば、LRTの公式サイトなのか、それとも似たような無関係なサイトなのか、情報源を明かしてしまうような情報源ではないでしょうか」と彼は助言した。
動画を見る際は、映像と音声のダイナミクスに注意するようスタムリス氏は提案した。突然のカット、一時停止、あるいは小さな不具合は手がかりとなる可能性がある。しかし、詐欺師に必要なのは被害者1人だけだ。
「このようなグループは、一般の人々を騙そうとする際に、コンテンツやメッセージ、あるいは画像、動画、音声そのものにはあまり時間をかけません。なぜなら、1000人中数十人はいずれにせよ騙されることを知っているからです」とスタムリス氏は強調した。
ソーシャルメディアのアカウンタビリティの欠如
専門家たちは、法執行機関がこうした犯罪に対処する能力が限られていることにも懸念を表明した。犯人の多くは、リトアニア当局と協力しないロシアや、紛争が続くウクライナといった国を拠点としている。
「リトアニアの口座から資金はすぐに外国の銀行に送金され、そのような資金を阻止したりブロックしたりするのは非常に困難です。投資や利益だと思っていたのに、後になってお金を失ったことに気づく人も多いのです。しかし、何も戻ってきません」とスタムリス氏は指摘した。
偽動画は現在、ソーシャルメディアから削除されている。国家危機管理センターの上級顧問ダリウス・ブタ氏は、ソーシャルメディアプラットフォームのアプローチが依然として国家機関にとって最大の懸念事項であると述べた。
「Facebookのバルト諸国担当担当者に連絡を取り、コンテンツ審査を強化すると約束されましたが、今のところ成果はありません」と、同氏は以前ELTAに語った。
専門家らは、このような詐欺に対処するには国境を越えた協調的な行動が必要だと認めている。
「法執行機関の役割は、分析を継続することです。これは国際的なグループであり、活動していることが分かりました。これらの事件の捜査には国際的な取り組みが必要です。リトアニア警察だけでは解決できません」とダウクシャス氏は述べた。