世界最大の広告グループのトップが、人工知能による音声クローンを使った精巧なディープフェイク詐欺の標的となった。WPPのCEO、マーク・リード氏は最近、経営陣に送ったメールで詐欺未遂の詳細を述べ、社内の他の人たちに、幹部を名乗る電話には注意するよう警告した。
ガーディアンが入手したメールによると、詐欺師たちはリード氏の公開画像を使ってWhatsAppアカウントを作成し、それを使って、リード氏とWPPの別の上級幹部とのミーティングを 設定したようだ。ミーティング中、詐欺師たちは幹部の声クローンと、彼らのYouTube映像を展開した。詐欺師たちはミーティングのチャットウィンドウを使って、カメラの外ではリード氏になりすました。この詐欺は失敗に終わり、ある「エージェンシーのリーダー」をターゲットにし、金銭や個人情報を要求しようとして新しいビジネスを立ち上げるよう依頼した。
「幸いにも、攻撃者は成功しなかった」とリード氏は電子メールで述べた。「我々は皆、電子メールを超えて仮想会議、AI、ディープフェイクを利用する手法に警戒する必要がある」
WPPの広報担当者は声明で、フィッシング攻撃が実を結ばなかったことを確認した。「関係する幹部を含む当社の従業員の警戒のおかげで、事件は防がれた」。WPPは、攻撃がいつ行われたか、リード氏以外のどの幹部が関与していたかという質問には回答しなかった。
かつては主にオンラインでの嫌がらせ、ポルノ、政治的偽情報に関連した懸念だったが、企業界におけるディープフェイク攻撃の数は、この1年で急増している。 AI音声クローンは銀行を騙し、金融機関を騙して何百万ドルもの金を奪い、サイバーセキュリティ部門を警戒させた。有名な例としては、倒産したデジタルメディアの新興企業Ozyの幹部が、音声偽造ソフトウェアを使用してYouTube幹部になりすまし、2021年にゴールドマン・サックスに4000万ドルの投資を させようとしたと報じられた後、詐欺と個人情報窃盗の罪を認めた。
WPPに対する詐欺未遂も同様に、音声クローンに生成AIを使用しているように見えたが、公開されている画像を撮影して連絡先の表示画像として使用するなど、より単純な手法も含まれていた。この攻撃は、詐欺師が現在、正当な企業コミュニケーションを模倣し、幹部を装うために利用できる多くのツールの代表例だ。
「同僚、特に上級管理職を狙ったサイバー攻撃はますます巧妙化している」とリード氏は電子メールで述べた。
リード氏の電子メールには、パスポートの提示、送金の要求、「誰にも知られていない秘密の買収、取引、支払い」に関する言及など、危険信号として注意すべきいくつかの箇条書きが列挙されていた。
「アカウントに私の写真があるからといって、それが私であるとは限りません」とリード氏は電子メールで述べた。
時価総額約113億ドルの上場企業であるWPPも、自社のブランド名を使用した偽サイトに対処しており、詐欺を阻止するために関係当局と協力しているとウェブサイトで述べた。
「WPPとその代理店の名前が、多くの場合メッセージサービスを介して通信する第三者によって、非公式のウェブサイトやアプリで不正に使用されていることにご注意ください」と、同社の連絡先ページのポップアップメッセージに記されている。
多くの企業が生成AIのブームに取り組んでおり、その技術にリソースを向けると同時に、その潜在的な害に直面している。WPPは昨年、チップメーカーのNvidiaと提携して生成AIを使用した広告を制作することを発表し、これを業界の大きな変化だと宣伝した。
「生成AIは、マーケティングの世界を信じられないほどのスピードで変えています。この新しい技術は、ブランドが商業利用のためにコンテンツを作成する方法を一変させるでしょう」とリード氏は昨年5月の声明で述べた。
近年、低コストのオーディオディープフェイク技術が広く利用可能になり、はるかに説得力のあるものになっている。一部の AI モデルは、わずか数分の音声から人の声をリアルに模倣できる。この音声は著名人から簡単に入手できるため、詐欺師はほぼ誰の声でも操作した録音を作成できる。
ディープフェイク音声の増加は、世界中の政治候補者をターゲットにしているが、目立たない他のターゲットにも浸透している。ボルチモアの学校長は、人種差別的および反ユダヤ主義的な発言をしているように聞こえる音声録音を理由に 今年休職 となったが、実は同僚の 1 人が行ったディープフェイクであることが判明した。ボットはジョー・バイデンや元大統領候補のディーン・フィリップスになりすましている。