Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 4279

関連インシデント

インシデント 83920 Report
Purportedly AI-Driven Phishing Scam Uses Spoofed Google Call to Attempt Gmail Breach of Security Expert

Loading...
Gmail を狙った AI を利用した詐欺について知っておくべきこと
inc.com · 2024

Gmail から誰かがアカウントを復旧しようとしたというメッセージを受け取った場合は、注意してください。Microsoft コンサルタントの Sam Mitrovic 氏は最近、巧妙な詐欺の標的となったハッカーが、ウェブベースの フリーメール システムを狙う試みについて詳細に説明しています。デジタル セキュリティ システムで最も弱いのは人間であることがわかっています。そのため、ハッカーがシステムに侵入できるようにセキュリティ情報を人間に渡させようとする「フィッシング」詐欺がニュースになることがよくあります。しかし、AI 時代では、自動化された人工知能搭載システムによって、プロセス全体が はるかにシンプル になっているようです。ミトロヴィッチ氏のブログ投稿では、このハッキングの試みを「超現実的な」AIを利用したGmailアカウント乗っ取りの試みと呼んでいると、技術ニュースサイトTom's Guideは報告伝えている。ミトロヴィッチ氏が標的になったとき、まず誰かが彼のGmailアカウントを「回復」しようとしたという通知を受け取った。これは、パスワードを忘れるなどしてアクセスできなくなった場合にユーザーが実行できる正当なプロセスである。詐欺の可能性に気付いたミトロヴィッチ氏は、この要求を拒否した。それから 1 時間以内に、ミトロヴィッチは Google のシドニー オフィスからかかってきたと思われる電話に出られなかった (ミトロヴィッチはオーストラリアに拠点を置いている)。

1 週間後、彼は別の復旧リクエストと別の電話を受け取り、それに出た。そして、ここから事態は不気味になる。アメリカ人のような声で、Google サポートから電話がかかってきて、ミトロヴィッチの Gmail アカウントに「疑わしい」アクティビティがあることを警告していると主張した。ミトロヴィッチはメールの確認を求め、送られてきたメール (専門家にしか見分けられない微妙な偽物であることが判明) を調べている間に、彼は電話を中断した。すると、電話の相手がミトロヴィッチと再びつながろうと「こんにちは」と何度か声をかけ、この時点で彼はそれが AI が生成した偽物だと気付いた。「発音と間隔が完璧すぎた」と彼は言った。彼は電話を切った。

これは本当に恐ろしい。考えてみてください。ハッカーは、複数の異なるデジタル セキュリティ システムを介した多段階の詐欺を実行し、ユーザーからログイン情報を引き出せる AI 搭載システムを構築することができました。

AI が登場する前は、このような詐欺には実際の人間が電話をかける必要がありました。今では、ボタンをクリックするだけで、ハッカーは数百、場合によっては数千の攻撃を同時に開始できます。そして、詐欺に引っかかった一部のユーザーのアカウントにアクセスできるようになると、ハッキングされたばかりの Gmail アカウントを利用して金儲けをすることができ、ユーザーがアクセスを取り戻すために「身代金」を要求するかもしれません。

今年初め、同様のAIを利用した詐欺が、発生した盗難の規模の大きさから、注目を集めました。香港を拠点とする銀行会社は、同様の多層的なAIフィッシング攻撃により、2,500万ドルの被害を受けました。この攻撃では、AIで偽造された人物が会社のCFOを装いました。

しかし、なぜこれを気にする必要があるのでしょうか?Forbesのレポートによると、Gmailのユーザー数は約25億人です。また、いくつかの推定によると、世界中で約500万の企業がGmailをメールプロバイダーとして使用しており、小規模企業の推定60%がこのサービスに依存しています。これは、小規模または個人経営の企業にとって経済的に非常に理にかなっています。Googleの高度なツールを使用するすべての利便性をゼロコストで手に入れることができ、利益が増えます。しかし、小規模企業では、ITチームが小規模であったり、完全にアウトソーシングされている場合もあります。ほとんどの従業員の技術専門知識は、技術分野に焦点を当てていません。

これは、チームが予期しないメールに対処する際に特に注意する必要があることを思い出すためのもう1つの素晴らしい方法です。今日では、詐欺に引っかかるのは、昔の「ナイジェリアの王子に500万ドルを送金する」という詐欺を避けるよりもはるかに簡単です。今では、非常に説得力のあるAI搭載の電話がかかってくる可能性もあることをスタッフに伝える必要があります。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd