フロリダ州マイアミビーチ -- 英国に住むある女性は、人生のパートナーだと思っていた男性が、実は偽物だったことを知り、大きなショックを受けた。
マイアミビーチの男性から送られてきたと思っていた動画は、実は人工知能(AI)が生成した偽物だった。
動画には不動産業者のアンドレス・アシオン氏の顔が映っていたが、彼が撮影した動画はなかった。「彼らは私の顔が映った動画を彼女に直接送りつけ、私の声は吹き替えのようで、彼の名前を呼んでいた。彼女はそれを信じずにはいられなかった」とアシオン氏は説明した。
身元や動画の公開を望まなかった被 害者は、地元10ニュースの電話取材に対し、長い間騙されてきたことを恥じていると語り、国際電話でアシオン氏に直接連絡を取った。
「海外からWhatsAppで電話がかかってきたのですが、無視したらすぐにまたかかってきました。『知らない人だ』と言ったら、『どういう意味だ? 1年間も連絡を取り合っているのに、マイアミに来てあなたに会いに来たんだ』と返されました」とアシオン氏は語った。
2人は直接会って、動画が人工知能(AI)によって操作されたことを確認した。「友達や両親に見せたら、彼らも私だと思っただろうと言われました」とアシオン氏は語った。
地元10ニュースは詐欺容疑者に連絡を取ろうとしたが、電話番号はすでに切断されていた。
「私の画像を使って他人を騙すのを見るのは不安でした。もし私にそんなことをしたのなら、誰にでもできるはずです」とアシオン氏は警告した。
この不動産業者は、今回の事件が国民への警告となり、AIの悪用リスクの高まりに対する保護策を立法府が策定するきっかけとなることを期待している。