Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
自動翻訳済み

インシデント 1187: Google AI概要とChatGPTが詐欺クルーズホットラインを引用し、詐欺を成功させたと報道

自動翻訳済み
概要:
自動翻訳済み
GoogleのAI概要機能により、ロイヤル・カリビアン航空の不正なカスタマーサービス番号が検出されたとされています。消費者のアレックス・リブリン氏は、この番号に電話をかけ、なりすましの人物と会話し、クレジットカード情報を提供したため、後に768ドルの不正請求を受けました。また、同じ番号がChatGPTの結果にも表示され、ディズニーとプリンセスクルーズのクルーズにリンクされていたと報じられています。これは、詐欺師がAIの出力を操作して、長年続くホットライン詐欺を増幅させていることを示しているとされています。

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
Alleged: Google と OpenAI developed an AI system deployed by Unknown scammers , Unknown fraudsters , Unknown scammers impersonating Royal Caribbean , Unknown scammers impersonating Disney Cruise Line と Unknown scammers impersonating Princess Cruises, which harmed Alex Rivlin , Royal Caribbean , Royal Caribbean customers , Disney Cruise Line , Disney Cruise Line customers , Princess Cruises , Princess Cruises customers と General public.
関与が疑われるAIシステム: Google AI overview と ChatGPT

インシデントのステータス

インシデントID
1187
レポート数
1
インシデント発生日
2025-08-15
エディタ
Daniel Atherton

インシデントレポート

レポートタイムライン

+1
GoogleのAIが彼にカスタマーサービスの電話番号を教えた。それは詐欺だった。
Loading...
GoogleのAIが彼にカスタマーサービスの電話番号を教えた。それは詐欺だった。

GoogleのAIが彼にカスタマーサービスの電話番号を教えた。それは詐欺だった。

washingtonpost.com

Loading...
GoogleのAIが彼にカスタマーサービスの電話番号を教えた。それは詐欺だった。
washingtonpost.com · 2025
自動翻訳済み

アレックス・リブリン氏は、ヨーロッパ旅行の直前に用事を済ませようとしていました。そんな時、AIを駆使した詐欺に巻き込まれました。

ラスベガスで不動産会社を経営するリブリン氏は、クルーズ船に乗るためのシャトルバスを予約する必要がありました。自宅の台所で、クルーズ会社のカスタマーサービスの電話番号をGoogleで検索し、知識豊富な担当者とチャットし、クレジットカード情報を提供しました。

リブリン氏によると、自分が電話をかけた電話番号は、Googleの「AI概要」でハイライト表示さ…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
Security Robot Rolls Over Child in Mall

Security Robot Rolls Over Child in Mall

Jul 2016 · 27 レポート
Loading...
Fake LinkedIn Profiles Created Using GAN Photos

Fake LinkedIn Profiles Created Using GAN Photos

Feb 2022 · 4 レポート
Loading...
Wikipedia Vandalism Prevention Bot Loop

Wikipedia Vandalism Prevention Bot Loop

Feb 2017 · 6 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
Security Robot Rolls Over Child in Mall

Security Robot Rolls Over Child in Mall

Jul 2016 · 27 レポート
Loading...
Fake LinkedIn Profiles Created Using GAN Photos

Fake LinkedIn Profiles Created Using GAN Photos

Feb 2022 · 4 レポート
Loading...
Wikipedia Vandalism Prevention Bot Loop

Wikipedia Vandalism Prevention Bot Loop

Feb 2017 · 6 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e132322