Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

インシデント 147: Reported AI-Cloned Voice Used to Deceive Hong Kong Bank Manager in Purported $35 Million Fraud Scheme

概要: In January 2020, a Hong Kong-based bank manager for a Japanese company reportedly authorized $35 million in transfers after receiving a call from someone whose voice matched the company director's. According to Emirati investigators, scammers used AI-based voice cloning to impersonate the executive. The fraud allegedly involved at least 17 individuals and reportedly led to global fund transfers that triggered a UAE investigation. U.S. authorities were reportedly later asked to help trace part of the funds sent to U.S. banks.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
Alleged: Unknown voice cloning technology developer と Unknown deepfake technology developer developed an AI system deployed by Unknown transnational fraud ring , Unknown scammers , Unknown fraudsters と Unknown cybercriminals, which harmed Unnamed Japanese firm , Unnamed Hong Kong-based branch manager of unnamed Japanese firm , General public of the United Arab Emirates と Centennial Bank.
関与が疑われるAIシステム: Unknown voice cloning technology , Unknown real-time speech synthesis technology と Unknown deepfake technology

インシデントのステータス

インシデントID
147
レポート数
5
インシデント発生日
2020-01-15
エディタ
Khoa Lam, Sean McGregor, Daniel Atherton
Applied Taxonomies
CSETv1, GMF, MIT

CSETv1 分類法のクラス

分類法の詳細

Incident Number

The number of the incident in the AI Incident Database.
 

147

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

no

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2020

Estimated Date

“Yes” if the data was estimated. “No” otherwise.
 

No

Multiple AI Interaction

“Yes” if two or more independently operating AI systems were involved. “No” otherwise.
 

no

Embedded

“Yes” if the AI is embedded in a physical system. “No” if it is not. “Maybe” if it is unclear.
 

no

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

4.3. Fraud, scams, and targeted manipulation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Malicious Actors & Misuse

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

インシデントレポート

レポートタイムライン

Incident Occurrence+3
ディープフェイク音声が2020年の3500万ドルの銀行強盗を可能にした
香港の3500万ドルの銀行強盗の背後にあるディープフェイク技術
ディープフェイク音声が2020年の3500万ドルの銀行強盗を可能にした

ディープフェイク音声が2020年の3500万ドルの銀行強盗を可能にした

unite.ai

ディープボイスが2020年に3500万ドルの銀行強盗を助長

ディープボイスが2020年に3500万ドルの銀行強盗を助長

unite.ai

Bank Robbers Steal $35 Million by Deepfaking Boss's Voice

Bank Robbers Steal $35 Million by Deepfaking Boss's Voice

futurism.com

ディープフェイク音声で企業強盗、3500万ドルを奪う

ディープフェイク音声で企業強盗、3500万ドルを奪う

darkreading.com

香港の3500万ドルの銀行強盗の背後にあるディープフェイク技術

香港の3500万ドルの銀行強盗の背後にあるディープフェイク技術

proprivacy.com

ディープフェイク音声が2020年の3500万ドルの銀行強盗を可能にした
unite.ai · 2021
自動翻訳済み

2020年1月にアラブ首長国連邦(UAE)の銀行から3,500万ドルが詐取された事件の捜査で、銀行支店長が知人の企業取締役を偽装するためにディープフェイク音声技術が使用され、その取締役が取引を承認していたことが判明しました。

この犯罪は昨年1月15日に発生し、UAEが米国当局に対し、米国に送金された資金の一部を追跡するための協力を求める要請書 (PDF)に概要が記載されています。

この要請書によると、UAEの被害銀行(名前は伏せられています)の支店長は、見覚えのある声からの電…

ディープボイスが2020年に3500万ドルの銀行強盗を助長
unite.ai · 2021
自動翻訳済み

2020年1月にアラブ首長国連邦の銀行から3,500万ドルが盗まれた事件の捜査で、偽の音声技術を使って銀行支店長が知り合いの会社の取締役になりすまし、取引を承認していたことが判明した。

この犯罪は昨年1月15日に発生し、リクエスト (PDF) に記載されています。UAEは、米国に送金された横領資金の一部を追跡するために、米国政府当局に支援を提供していました。

嘆願書によると、被害者のUAE銀行支店長は、マーティン・ゼルナーという弁護士からのメールと併せて、見覚えのあるボイスメ…

Bank Robbers Steal $35 Million by Deepfaking Boss's Voice
futurism.com · 2021

Deep Voice

Deepfake technology has gotten incredibly sophisticated over the years, allowing us to resurrect the voices of the dead and fool Justin Bieber into challenging famous Scientologists to fights. Some folks are even using it for mor…

ディープフェイク音声で企業強盗、3500万ドルを奪う
darkreading.com · 2021
自動翻訳済み

先週、米連邦裁判所に提出された訴状によると、詐欺師グループは偽造メールとディープフェイク音声を使い、アラブ首長国連邦(UAE)企業の従業員に対し、取締役が別の組織の買収の一環として資金を要求したと信じ込ませ、3,500万ドルを詐取した。

この攻撃は支店長を標的とし、取締役と米国在住の弁護士を装ったメールが送信された。メールには、この弁護士が買収のコーディネーターとして指定されていた。この攻撃は、ニューラルネットワークと呼ばれる機械学習アルゴリズムを用いて作成された合成音声を使…

香港の3500万ドルの銀行強盗の背後にあるディープフェイク技術
proprivacy.com · 2022
自動翻訳済み

UAE警察は、ディープフェイクAI(人工知能)を用いて取締役の声を複製し、支店長に3,500万ドルを振り込ませたとされる銀行強盗事件を捜査している。

ディープフェイク技術が進化し新たな機会をもたらす一方で、そこから生じる脅威も増大している。AI支援社会において、自動化による雇用喪失が最大の懸念事項になると考える人もいたが、新たな課題が浮上している。顔認識、音声、動画のディープフェイク(声や容姿を操作して作成される)は、悪用されると、最近の詐欺事件に見られるように、個人のプライ…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
レビュー前
インシデント発生日:
2021-10-14

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Security Robot Drowns Itself in a Fountain

DC security robot quits job by drowning itself in a fountain

Jul 2017 · 30 レポート
Fraudsters Used AI to Mimic Voice of a UK-Based Firm's CEO's Boss

Fraudsters Used AI to Mimic CEO’s Voice in Unusual Cybercrime Case

Mar 2019 · 1 レポート
Fake LinkedIn Profiles Created Using GAN Photos

That smiling LinkedIn profile face might be a computer-generated fake

Feb 2022 · 4 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Security Robot Drowns Itself in a Fountain

DC security robot quits job by drowning itself in a fountain

Jul 2017 · 30 レポート
Fraudsters Used AI to Mimic Voice of a UK-Based Firm's CEO's Boss

Fraudsters Used AI to Mimic CEO’s Voice in Unusual Cybercrime Case

Mar 2019 · 1 レポート
Fake LinkedIn Profiles Created Using GAN Photos

That smiling LinkedIn profile face might be a computer-generated fake

Feb 2022 · 4 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df