私には分身、あるいはインターネットで今やアバターと呼ばれているものがあります。私のアバターは見た目も声も、少なくとも少しは私に似ています。FacebookやInstagramに頻繁に現れます。私よりはるかにソーシャルメディアに精通している同僚たちが、このアバターを消そうと試みてきました。しかし、少なくとも今のところは失敗しています。
なぜ私たちは、このもっともらしい私のアバターを消そうとこれほどまでに固執しているのでしょうか？それは、彼が詐欺師――「ディープフェイク」だからです。さらに悪いことに、彼は文字通りの詐欺師でもあります。彼は、私が率いるとされる投資グループに人々を勧誘しようとしているのです。誰かが彼を、新しいテクノロジー、私の名声、そしてFTの評判を悪用して人々を騙すように 仕向けたのです。彼は死ななければなりません。しかし、私たちは彼を殺せるのでしょうか？
私が初めてアバターに出会ったのは、2025年3月11日でした。元同僚が彼の存在を教えてくれ、私はすぐにFTの専門家たちに彼を紹介しました。
彼は、私が運営しているとされるWhatsAppグループのInstagram広告に登場していたことが判明しました。つまり、両プラットフォームを所有するMetaが、この詐欺行為で間接的に利益を得ていたということです。これは衝撃でした。誰かが私の名を騙って金融詐欺を行っていたのです。Metaがそこから利益を得ていたのも同然です。
専門家の同僚がMetaに連絡し、少しのやり取りの後、問題の広告を削除することができました。しかし、これで事態は収束には程遠いものでした。その後数週間、個人的に知っている人や私のことを知っている人など、他にも何人かの人が投稿を私に報告してきました。その度に、Metaは通知後、削除したと報告してくれました。さらに最近、私は顔認識技術を用いてこのような詐欺を特定・削除する新しいMetaシステムにも登録しました。
全体として、私たちはこの悪を克服しつつあると感じていました。確かに、まるで「モグラ叩き」のようでしたが、私たちが目にしていたモグラ塚の数は少なく、減少しているように見えました。しかし、これは後に誤りであることが判明しました。関連データを調べた別の専門家の同僚が最近、FacebookとInstagramで、1,700以上の広告に、少なくとも3つの異なるディープフェイク動画と複数のフォトショップ加工画像が、わずかな違いはあるものの掲載されていたと教えてくれました。Metaの広告ライブラリのデータによると、これらの広告はEUだけで97万人以上のユーザーにリーチしました。EUでは、規制によりテクノロジープラットフォームはこのような数値を報告することが義務付けられています。
「広告はすべて英語なので、これは全体のリーチの一部に過ぎない可能性が高い」と同僚は指摘しました。おそらく、英国のアカウントでもさらに多くのアカウントが広告を目にしたのでしょう。
これらの広告は10の偽アカウントによって購入され、一部が禁止された後に新たなアカウントが登場しました。まるでヒドラと戦っているようです！
それだけではありません。ソーシャルメディアプラットフォームが人々を騙すために利用されていることを知ることと、私自身が知らず知らずのうちにそのような詐欺に加担させられることの間には、痛ましいほどの違いがあると思います。これは本当に衝撃的な出来事でした。では、人工知能ツールを含む膨大なリソースを持つMetaのような企業が、そのような詐欺の存在を知らされたとしても、なぜ自動的に特定し、排除できないのでしょうか？本当にそんなに難しいことなのでしょうか？それとも、サラ・ウィン＝ウィリアムズ氏が彼女の素晴らしい著書Careless Peopleで示唆しているように、彼らは努力していないのでしょうか？
文化・メディア・スポーツ省の担当者と連絡を取り、Metaの広告ポリシーを案内してもらいました。同ポリシーには、「広告は、金銭や個人情報を詐取することを目的とした 詐欺行為を含む、特定された欺瞞的または誤解を招く手法を用いて、商品、サービス、スキーム、またはオファーを宣伝してはならない」と記載されています。同様に、オンライン安全法はプラットフォームに対し、ユーザーを詐欺から保護することを義務付けています。
Metaの広報担当者は、「著名人になりすますことは当社のポリシーに違反しており、当社と共有された広告、アカウント、およびページを削除し、無効化しました」と述べています。
Metaは自己弁明として、「詐欺師は執拗に活動し、検出を逃れるために戦術を絶えず進化させています。そのため、当社は顔認識技術の活用を含め、詐欺師が他者を欺くことをより困難にする新しい方法を常に開発しています」と述べています。しかし、膨大なリソースを持つMetaが、もっと良い対応ができなかったとは到底信じられません。このような詐欺を拡散すべきではありません。
さて、皆様、ご注意ください。私は投資アドバイスは一切行っておりません。このような広告を見かけたら、それは詐欺です。もしこの詐欺の被害に遭われた方は、FTまでvisual.investigations@ft.comまでご体験をお寄せください。Metaがこの問題を解決できているかどうかを知るために、すべての広告を削除する必要があります。
何よりもまず、このような詐欺を止めなければなりません。Metaができないなら、誰ができるでしょうか？