ラディミール・ドブリカニン氏がこの詐欺に初めて気づいたのは、ある高齢の女性から、彼が宣伝していると思われる目薬はどこで買えるのかと尋ねられた時だった。
著名な外科医であり国会議員でもあるドブリカニン氏は、インターネットで自身の動画を見つけた。その動画は、人工知能によって「非常に粗雑に」操作されており、目薬を宣伝する意図があったという。ドブリカニン氏によると、その目薬は「視力を改善する効果など全くない」とのことだ。
そして、彼が宣伝していたのは目薬だけではなかった。偽のFacebookやInstagramのプロフィールに投稿されたディープフェイク動画には、リウマチ、便秘、インポテンツ、前立腺疾患、寄生虫などの治 療薬を推奨しているようにも見えた。
「これらの犯罪者は国民を欺き、その成分が何であるか誰も確認できないものを売りつけています」とドブリカニン氏はBIRNに語った。「処方された治療を中止し、これらの茶番劇のようないわゆる薬を使うように勧められることがよくあります。これらの薬は、直接的にも間接的にも命を危険にさらす可能性があります。」
これらの治療薬を販売するスポンサー広告に貼られたリンクは、Limited Charmという会社のウェブサイトに繋がり、そこでは製品が大幅な割引価格で購入できる。Limited Charmは、モンテネグロの中央企業登録簿にDigital Edgeという名称で登録されており、トゥジ市に住所を置いている。
同社はコメント要請に応じなかったが、公式データによると、Digital Edgeの昨年の売上高は160万ユーロを超え、純利益は7万5637ユーロだった。
2021年と2023年に行われた調査で、偽の宣伝を含むオンライン上での不正行為が明らかになったにもかかわらず、このような事態になっている。
近年、身元が悪用された著名人はドブリチャニン氏だけではない。
8月、ボスニアのファクトチェックサイト「Raskrinkavanje.ba」は、AIを活用した仮想通貨取引プラットフォームを自称するNearest Edgeという企業が、ボスニア・ヘルツェゴビナの複数の著名人の発言を不正に利用したと報じました。モンテネグロの元農業大臣ペタル・イヴァノヴィッチ氏とジャーナリストのドラゼン・ジヴコヴィッチ氏を標的とした捏造されたストーリーも、Nearest Edgeプラットフォームを通じてユーザーを投資スキームに誘い込むための餌として利用されていました。
「現代のAIツ ールのおかげで、一部の動画は、一般のソーシャルメディアユーザーにとって、ある瞬間にリアルで説得力のあるものに見えてしまうことがあります」と、モンテネグロのRaskrinkavanje編集長、エレナ・ヨヴァノヴィッチ氏は述べています。「これらの動画では、著名人が、ユーザーが迅速に反応して投資すれば、富と繁栄を約束しているとされています。」
「オンライン詐欺は、ウェブサイトが追加コンテンツのないいわゆる『ランディングページ』である場合、またはいずれかのオプションをクリックすると、ほとんどの場合大幅に割引された商品の購入リンクに直接つながる場合、多くの場合検知されます。」
長期にわたる複雑な調査
モンテネグロのコンピュータインシデント対応チーム（CIRT）は、著名人の画像、音声、写真、動画の悪用が増加していると述べています。
「AIベースのツールが広く利用可能になり、使いやすくなった2022年以降、最も大きな増加が見られました」とCIRTはBIRNに語りました。「報告のほとんどは金融詐欺の試みに関するものですが、少数ながら著名人を「おとり」として利用する他の形態のデジタル操作に関するものもあります。」
著名人が悪用される主な事例は、偽の投資プラットフォーム、詐欺的な賞金ゲーム、そして悪意のあるリンクや、著名人の推薦を装ったディープフェイクコンテンツをクリックするよう一般の人々を誘導するキャンペーンなどであると、CIRTは述べています。
「これらの事例は、ソーシャルエンジニアリング、フィッシング、デジタルIDの悪用などを含む、より広範なデジタル詐欺のカテゴリーに分類さ れます。ディープフェイク技術が関与する場合は、さらにAI生成のオーディオビジュアルコンテンツの悪用に分類されます。」
Women4Cyber Montenegroの代表であるアンドレヤ・ミハイロヴィッチ氏は、被害者に対し警察とCIRTへの相談を促しつつも、当局の対応は限られていると述べた。
「ディープフェイク詐欺は技術的かつ法的にその性質上、捜査が複雑で、長期にわたる場合が多い」とミハイロヴィッチ氏はBIRNに語った。
「モンテネグロとその周辺地域では、著名人の偽の発言を掲載したクリックベイト広告は、モンテネグロ当局の管轄外にある海外のサーバーに誘導するケースが多い。犯人はVPNサービス、暗号化、偽のデジタルIDを使用しているため、身元確認と訴追は極めて困難だ」
ミハイロヴィッチ氏は、デジタル虐待事件における迅速なデータ交換と緊急介入を可能にするため、技術力を強化し、国際協力を正式に確立する必要性を強調した。
「国際協力が弱いため、有害コンテンツが長期間オンライン上に残ることが多い。また、捜査が完了する前に投稿が消えてしまい、犯人が特定されないという問題もある」
ディープフェイク事件の増加
警察のデータによると、モンテネグロでは2025年に42人がオンライン詐欺の被害に遭い、約30万ユーロの金銭的損失が発生しました。
11月11日、警察はこのような詐欺は、偽の投資を宣伝する偽のソーシャルメディアページを通じて組織されていると述べました。
警察は、「デジタル痕跡の隠蔽を容易にする高度な情報技術の活用により、このような事件の解決には広範な分析と、多くの場合、国際的なパートナーや外国企業の関与が必要になります」と述べました。
ミハイロビッチ氏は、今年の最初の3か月だけで、報告されたディープフェイク事件の件数が2024年全体の記録件数を上回り、事件の55%以上で著名人が標的になっていると指摘しました。
彼女によると、最も一般的な形式は、偽の公的声明、メディア出演の模擬、改ざんされた写真、音声録音などです。政治詐欺や金融詐欺では動画コンテンツが主流であり、静止画像は風評被害に利用されることが多い。
セキュリティプラットフォームZeroThreatの調査によると、2022年以降、世界的にディープフェイクを用いたデジタル詐欺の利用は2,000%以上増加している一方で、組織の60%は依然として適切な検知・対応メカニズムを欠いている。
ミハイロヴィッチ氏はBIRNに対し、「この現象には、法的ツール、アルゴリズムフォレンジック、デジタルの真正性に関する体系的な教育を組み合わせた、緊急の法的・制度的対応が必要だ。このような統合的なアプローチのみが、公共コミュニケーションへの信頼を維持し、民主的プロセスの崩壊を防ぐことができる」と語った。
EU人工知能法は、AIによって生成された合成コンテンツに明確なラベル表示を義務付けており、モンテネグロでは個人の写真、動画、または音声録音の無許可使用は罰金または最長1年の懲役刑に処せられる。
ドブリチャニン氏は警察に通報しただけでなく、自分の個人情報が悪用されたプラットフォームにも苦情を申し立てたが、効果は薄かった。
「FacebookとInstagramの対応は残念なものでしたが、予想通りでした。何が合法かを判断するのは彼らの責任ではないと彼らは言っています」と彼は述べた。「偽アカウントに関する詳細情報の受信をブロックしただけでした。これらのプラットフォームは、事実上、この種の犯罪行為のために構築されています。」
ミハイロビッチ氏は、巨大テクノロジー企業は、投稿時点で不正操作を検知し、疑わしいコンテンツには検証待ちのフラグを立てる義務を負うべきだと述べた。
「被害の規模は、プラットフォームの対応の速さに大きく左右されることが多い」とミハイロビッチ氏は述べた。「わずか数時間の遅れでも、欺瞞的なコンテンツが大量に拡散し、企業の評判を永久に傷つける可能性があるのです。」