アレックス・リブリン氏は、ヨーロッパ旅行の直前に用事を済ませようとしていました。そんな時、AIを駆使した詐欺に巻き込まれました。
ラスベガスで不動産会社を経営するリブリン氏は、クルーズ船に乗るためのシャトルバスを予約する必要がありました。自宅の台所で、クルーズ会社のカスタマーサービスの電話番号をGoogleで検索し、知識豊富な担当者とチャットし、クレジットカード情報を提供しました。
リブリン氏によると、自分が電話をかけた電話番号は、Googleの「AI概要」でハイライト表示されていました。これは、一部のウェブ検索に対してAIが生成した回答です。翌日、リブリン氏は不審なクレジットカードの請求を見つけ、ロイヤル・カリビアン社のカスタマーサービスを装った人物に騙されたことに気づきました。
彼は、旅行者やGoogleで航空会社やその他の企業のカスタマーヘルプラインを検索する人々を狙った典型的な詐欺にAIを巧みに利用した手口に遭遇したようです。
彼が電話をかけたのと同じ番号が、他のクルーズ会社のホットラインを装い、GoogleやChatGPTに表示されているのを発見しました。
AI詐欺の時代へようこそ。専門家は、ウェブ、ソーシャルメディア、メール、テキストメッセージを席巻してきた昔ながらの詐欺師やスパマーの手口が、今やAI情報も操作していると警告しています。そして、リブリン氏もその初期の被害者の一人です。
「私はテクノロジーにかなり精通しているのに、今回は騙されてしまいました」と、lpt RealtyのRivlin Group創設者は語った。
Rivlin氏のような経験から身を守る方法、そしてGoogleのような企業がAI情報の改ざんを防ぐために何をすべきかについて、詳しく説明する。
詐欺師はRivlin氏とGoogleをどのように騙したのか
Rivlin氏は、偽のカスタマーサービス番号と偽の担当者は信用できる人物だったと語った。
担当者は、ベニスのロイヤル・カリビアン社のシャトルバスの料金と乗車場所を把握していた。Rivlin氏が特定の料金やチップの支払いについて質問した際も、説得力のある説明をした。担当者はシャトルバスの料金を免除すると申し出、Rivlin氏は768ドルを支払うことに同意した。
Rivlin氏は、クレジットカー ドの請求に見慣れない会社名が記載されているなど、不審な点を疑っていたと述べた。
翌日、2件の偽カード請求が届いたとき、リブリン氏は騙されたと悟りました。クレジットカードをキャンセルしたところ、請求は取り消されました。
リブリン氏は、詐欺に引っかかったのは主に犯人と自分自身だと非難しています。しかし、私はGoogleユーザーを狙った同様の詐欺を何度も見てきたため、Googleが情報への重要なゲートウェイを十分に保護していなかったことを主に責めています。Google内部事情に詳しい2人の専門家も同様の見解を示しました。
このような詐欺の典型的な手口は次のとおりです。犯罪者は、オンラインレビューサイト、掲示板、その他のウェブサイトに、自分が管理する電話番号が企業のカスタマーサービスセンターの電話番号であると主張して書き込みます。
ユーザーがGoogleで検索すると、Googleの技術が、オンラインアドバイスなど、関連性が高く信頼できる情報の手がかりを探します。詐欺師が管理する電話番号がオンラインで真実であるかのように頻繁に使用されると、Googleは企業を検索しているユーザーにその電話番号を提案することがあります。
Googleは詐欺師の格好の餌食であり、私たちはその究極の被害者なのです。
GoogleのAI OverviewsとOpenAIのChatGPTは、Googleの検索エンジンと同様の手がかりを使ってウェブから収集した情報を吐き出している可能性があります。そのため、これらは古くからある偽番号詐欺の新たなAIの餌食となっています。
ChatGPTの検索とウェブフォーラムで、同じ番号が複数のクルーズラインに関連付けられていることが示されました。
「30年前の手法を使ってこれらの新しい回答エンジンを操作するのは、格好の標的を狙うようなものです」と、消費者検索行動調査会社Near Mediaのソースコメントアナリスト、マイク・ブルーメンソール氏は述べています。（ブルーメンソール氏は、リブリン大統領のFacebookでの動画で自身の体験を語ってくれました。）
ブルーメンソール氏と私は、GoogleとChatGPTが、リブリン大統領を騙したのと同じ番号を、ディズニーやカーニバルのプリンセスラインを含む他のクルーズラインのカスタマーサービス番号として特定していることを発見しました。
Googleの広報担当者は声明の中で、AI概要とウェブ検索結果は、一般的な検索においてユーザーを公式カスタマーサービス情報へ誘導するのに効果的であると述べました。
広報担当者は、私が特定した偽の電話番号の例数件について「対策を講じた」と述べ、Googleは「このような稀な検索に対応するための幅広い改善に引き続き取り組んでいる」と続けました。
ロイヤル・カリビアンのカスタマーサービス番号は1-866-562-7625で、同社はウェブサイト、アプリ、請求書にこの番号を表示していると述べています。ディズニーとプリンセスは私の質問に回答しませんでした。
OpenAIによると、ChatGPTが偽のクルーズ番号で参照していたウェブページの多くは削除されているようで、「不適切なコンテンツがソースから削除された後」、情報が更新されるまでに時間がかかる可能性があるとのことです。（ワシントン・ポストはOpenAIとコンテンツ提携を結んでいます。）
この詐欺を防 ぐために、あなたと企業ができること
Googleの検索結果やチャットボットに表示される電話番号には注意してください。リブリン氏は、ロイヤル・カリビアンのカスタマーサービスの電話番号を同社のアプリで探したが、見つからなかったと述べた。
次に企業番号を探すのにGoogleやチャットボットは自然な流れだが、表示される番号には細心の注意を払う必要がある。電話をかける前に、GoogleやChatGPTの関連リンクをよく確認しよう。偽のカスタマーサービス詐欺に関する詳しいアドバイスも読んでみよう。
なぜGoogleは詐欺師にとってより便利なようにしているのだろうか？検索結果に表示される偽のカスタマーサービス番号に人々が騙されてきた長い歴史を、同社は認識している。
マーケティング会社Amsiveの検索エンジン最適化戦略・調査担当副社長、リリー・レイ氏は、企業番号検索に対して、信頼できる「答え」のように思えるAI概要を表示しない方が安全だと述べた。
「企業電話番号検索でAI概要が表示されるようにすることで、詐欺師に新たなチャンスが生まれます。そして、詐欺師は明らかに既にこのチャンスを悪用しています」とレイ氏はメールで述べた。
レイ氏とブルメンソール氏は、Googleは企業向けを含む精査済みの情報データベースを保有しており、検索とAI検索結果はそこからのみ情報を取得するようにすべきだと主張している。
今週、楽しい旅行を終えて帰国したリブリン氏は、今後、偽の請求や個人情報窃盗の試みがないか注意していると述べた。また、詐欺について十分な情報を持ち、AIを信じているとしても、AIを利用した詐欺から逃れられるわけではないことを広く伝えたいと考えている。
「騙されたなんて信じられない」と彼は言った。「気をつけて」