ダイブブリーフ:
- 英国のエンジニアリンググループ Arup は、詐欺師のせいで 約 2,500 万ドルの損失 を受けましたフィナンシャル・タイムズの報道によると、AIで操作した「ディープフェイク」を使ってグループのCFOになりすまし、従業員から香港の銀行口座への送金を要求した。
- 香港警察によると、スタッフの1人が、英国に拠点を置くアラップのCFOを名乗る「機密取引」に関するメッセージを受け取ったとフィナンシャル・タイム ズは伝えた。偽のCFOと他のAIで生成された従業員とのビデオ会議の後、スタッフは5つの異なる香港の銀行口座に複数の取引を行い、詐欺に気付いた。
- CFOは今のところこのような事件を最優先に考えていないかもしれないが、事件が頻繁に起こるようになれば状況は変わるだろう。ビッグ4の1つであるKPMG USのサイバーセキュリティサービス担当プリンシパル、マシュー・ミラー氏はCFO Diveに対し、企業の財務の鍵を握る者として、そしてそれゆえ、進取的な詐欺師によるなりすましの標的になる可能性があるため、認識を確実にすることが重要な第一歩だと語った。同氏は、スタッフは幹部のなりすましなどの脅威や、こうした詐欺が重要なビジネスプロセスにどのような影響を与えるかに注意する必要があると述べた。
Dive Insight:
Arup の事件は、いわゆるディープフェイク (AI で偽造または操作された画像、音声、動画) に関する懸念がビジネスリーダーと規制当局の両方で高まっている中で起きた。この詐欺のニュースが最初に報じられたのは 2 月で、香港警察は Arup の名前を挙げずに大手企業がディープフェイク詐欺の標的になったことを突き止めた。木曜日の報道によると、この件に詳しい人物が今月 Financial Times に Arup が標的になったと伝えた。
Arup は 1 月に香港警察に詐欺事件が発生したことを通知し、Financial Times に対して偽の音声と画像が使用されたことを確認したが、事件はまだ調査中であるため、詐欺に関する詳細を明らかにすることは拒否した。Arup は CFO Dive からのコメント要請にすぐには応じなかった。
本社に連絡して詐欺を発見したスタッフが詐欺の犯人に送信した取引の合計は、2億香港ドル、つまり約2,500万米ドルに上る。
AIを利用したディープフェイクは、詐欺師が認証要件を回避して正当な顧客の口座にアクセスしたり、送金を承認する権限を持つ企業内の個人になりすましたりなど、さまざまな悪質な使用例に使用される可能性があるとミラー氏は述べた。
このようなタイプの詐欺は目新しいものではないが、生成AIやその他のツールの出現により、詐欺師はこのような詐欺を大幅に拡大できるようになった。事実上、「詐欺の経済状況が変化する」と同氏は述べた。「そして、詐欺師が金儲けを始めると、その資金で詐欺コンポーネントを活性化し、さらに金儲けをしようとするので、私はかなり懸念している」。
CFOが認識を高め、導入している詐欺対策を詳しく調べ始めることが重要だ。財務責任者は「ディープフェイクソーシャルメディア型攻撃の影響を受けやすいビジネスプロセスの一部」を再検討し、「そうしたリスクをうまく防ぐために適切な管理と監視が行われている」ことを確認する必要があるとミラー氏は述べた。
アラップの事件は、重要なアクセス権や影響力を持つ個人になりすますためにディープフェイクが使用された最初の事件ではない。先週、香港証券先物取引委員会は、たとえばテスラのヘッドのディープフェイク画像 イーロン・マスクがQuantum AIという暗号通貨会社によって利用されていると警告した。
SFCは最近のプレスリリースで、「Quantum AIが自社のウェブサイトやソーシャルメディアでイーロン・マスク氏のAI生成ディープ フェイク動画や写真を使用し、マスク氏がQuantum AIの基盤技術の開発者であると国民を欺いていると疑っている」と述べた。
また、この種の技術が社会経済的に及ぼす潜在的な影響についても大きな懸念があるとミラー氏は述べた。多くの国の議員らは、AIが選挙中に悪用される可能性を懸念し、AIの使用制限をすでに求めている。(https://www.cnn.com/2024/05/15/politics/us-intelligence-china-iran-deepfakes-2020-election/index.html)
3月の一般教書演説で、ジョセフ・バイデン大統領はAI操作によるディープフェイクの脅威を強調し、議会にこの新興技術がもたらす潜在的な「危険」に対処するよう促したと、CFO Diveが以前に報じた。その週の後半、欧州連合（EU）の議員らは、AIの使用要件を定め、遵守しない場合には厳しい罰則を規定する「EU AI法」を可決した。