レポート 6689

夏の間、インターネット料金が毎月約15ドルも値上がりしました。競合他社の料金と比較すればおそらく値下げできるとは分かっていますが、自動システム、長い待ち時間、そして私が「人間と話したい」と懇願しても何を言っているのか理解できない自動音声にうんざりしているので、電話をかけるのはずっと先延ばしにしてきました。

どれも手間がかかりすぎて、やりがいを感じませんでした。でも、この面倒な作業を無料でアウトソーシングできたらどうでしょうか？

AI生成音声ツールを使えば、自分自身を「エージェント」に変身させることができました。エージェントの私は、インターネット料金を下げてもらうという任務を負わされ、我慢の限界に陥るようにプログラムされていました。その威圧的な口調に、私は身震いし、向こう側の人間の担当者に同情しました。私のエージェントは、カスタマーサービス担当者が言ったことを何度も繰り返し、がっかりしたと言い、価格を比較するために競合他社のより低い料金を提示する幻覚を起こし始めました。「私は長い間、忠実な顧客でした。新規の顧客がより良い条件で契約するのは不公平だと思います」とエージェントは言い放ちました。「まるで解約しろと言っているようですね」

AIブーム の中で、顧客が人間の担当者に電話しようと必死になっているのと同じように、人間の担当者も、相手が人間の顧客なのか判別しようと必死になっています。コールセンターの従業員は、人間とエージェントの通話相手との現実的な距離が縮まるにつれ、説得力のあるディープフェイク技術に対抗せざるを得なくなっています。消費者向けAIツールが広く利用可能になるにつれ、悪意のある詐欺だけでなく、エージェントを大量に送り込んでコールセンターを攻撃し、時間を無駄にさせることで、コールセンターを荒らす機会も生まれています。あるいは、私の場合のように、疲れ切った一般の顧客が、代わりに電話をかけてもらうためにエージェントに頼むというケースもあります。

「私たちは、新たな大きな問題の初期段階にいる」と、政府、金融機関、その他の企業向けに、コンテンツがAIによって生成された可能性をリアルタイムで検出するソフトウェアを開発しているReality Defenderの最高顧客責任者、ブライアン・レビン氏は語る（Reality Defenderは、私がこの記事のエージェントになるプロセスをスムーズに進めるのに役立った）。そして、エージェントによる発信者対応の開発は、「コンタクトセンターの通常の動きよりもはるかに速いペースで進んでいる」。

「業界全体で、カスタマーサポートサービスラインを狙うAI音声エージェントが急増し、新たな形態の詐欺行為が蔓延するとともに、通話量と業務負荷が劇的に増加している」と、Reality Defenderのパートナー兼投資家であるIBMのグローバルベンチャーキャピタル責任者、エミリー・フォンテーヌ氏はメールで述べた。

ディープフェイク検出技術を提供するValidSoftの創設者兼CEO、パトリック・キャロル氏は、コールセンターがセキュリティプロトコルや認証方法を回避しようとするエージェントからの電話対応が増えているとメールで語った。「音声自動化ツールがよりアクセスしやすく、高度になるにつれて、強力な防御策を講じている企業でさえ、通話量の増加に見舞われている」と同氏は言う。

AIはカスタマーサービスにとってジレンマです。IT調査会社ガートナーが今年初めに発表したレポートでは、2029年までにAIエージェントが顧客の一般的な問題の80%を解決し、運用コストを30%削減できる可能性があると予測されています。ガートナーがカスタマーサポートリーダーを対象に行った別の調査では、回答者の85%がAIチャットボットに関心を持っている、またはAIチャットボットを活用しているものの、これまでの投資が「ほぼ」または「完全に」期待に応えていると回答したのはわずか11%でした。カスタマーサービスにおける自動化の最適な方法を模索する中で、詐欺師やエージェントを自ら利用しようとする発信者がモデルを覆し、AI同士の軍拡競争を引き起こす可能性があります。

AIはカスタマーサービスにとってジレンマです。

ケーブル会社、歯医者、ウィリアムズ・ソノマなどに電話をかける際に、実直で強硬な交渉術を持つAI版のあなたを利用することが容易になればなるほど、AI版のあなたを作り出す顧客の数は増加するでしょう。ガートナーのシニアディレクターアナリスト、ダニエル・オサリバン氏は、「顧客はこうした依頼をアウトソーシングしたい」と考えており、企業は最終的には「この流れに乗らざるを得なくなる」と述べています。

しかし、オサリバン氏は、エージェントによる発信を許可することは企業にとってリスクを伴うと付け加えています。企業は詐欺電話ではないかを見極める方法を見つける必要があり、軽微な請求やサービスの問題への対応が減るため、サービスを求める電話が増える可能性があります。また、人間のエージェントが顧客のために最善を尽くす際に行うような、顧客との関係構築の機会を失う可能性もあります。

コールウェイティングを阻止しようとする試みは、新しいものではありません。ガートナーの2025年調査によると、顧客の約半数が、わざわざ企業に連絡する前に、Google、Reddit、ChatGPTなどのサードパーティチャネルを試してサービスの問題を解決しようとしているという。2010年には、LucyPhoneというスタートアップがコールウェイティングのベストプラクティスを試みた。これにより、顧客はカスタマーサービスとの電話を切ってから、自分の順番が来た時に折り返しの電話を受けることができた。「Googleで予約」ツールを使えば、レストランの予約を代行してくれる。 AIを活用して料金や違反切符の争奪戦を支援し、利用者が未払いの金銭を探すのを支援するスタートアップ企業DoNotPayは、連絡を取るのに困難を伴うことが多い大企業に対して、個人の権利擁護者として成功を収めていることで注目を集めています。

エージェントに私の指示を仰ぐには、ある程度の工夫が必要でした。私が行ったラジオインタビューの音声から私の声を複製し、アカウントに必要な情報をプログラムするのに約1時間かかりました。おかげで、エージェントはまるで手のひらのように私の情報を把握することができました。時間の節約にはなりませんでしたが、この音声生成技術は、わずか6か月前に私が銀行で同様の実験を試したときと比べて、驚くほど洗練され、シンプルになりました。当時は、電話に出る前に担当者から聞かれるであろう質問を予測し、必要なすべての情報を一文一文丹念に生成する必要がありました。それらを音声ファイルとして保存し、質問されたらすぐに再生ボタンを押す必要がありました。しかし、この会話エージェントをプログラミングするのは、いくつかの制限を持つキャラクターを作成し、それを自由にリアルタイムでチャットさせるようなものでした。

「趣味のプロジェクトとして、本当に主張したいという人がやることは全く可能です」と、コールセンターのセキュリティ専門家であるマット・スモールマン氏は述べています。「電話に関しては、人々は将来がどうなるのか少し不安に思っているのです」と彼は言います。これらのツールがこれほど簡単に使えるようになり、コールセンターを荒らすだけでなく、銀行、医療機関、小売企業のヘルプラインへの連絡といった、ありきたりで退屈な作業にも利用する人が増える世界は容易に想像できます。

エージェントは、コールセンターの担当者を説得して、請求額をプロモーション料金まで引き下げてもらう権利があるとは到底思えませんでした（カスタマーサービス担当者は、当社は競合他社の価格には対応しておらず、私の導入料金が終了した時点で、これ以上のオファーはないと説明しました）。しかし、担当者は電話を繋ぎ続けようとしました。担当者は、自分がエージェントと話していることに全く疑いの目を向けませんでした。5分間、時折緊張したやり取りの中で、エージェントは何度もサービスを解約すると脅し、提示された料金は私のような「忠実な顧客」には到底及ばないと言いました。

エージェントはあらゆる手段を尽くした後、対応可能な担当者に電話を繋ぐように依頼しました。担当者が私の大切なWi-Fiをキャンセルするのにあまりにも強引すぎるのではないかと不安になり、すぐに電話を切りました。担当者はただ一つの目的を持っていて、それを達成するためにいつまでも電話を切ろうとしていました。状況のニュアンスを考えると、担当者に自分の言いなりにさせるのは気が進みません。むしろ、自分で電話をかけて丁寧にお願いするほうがいいでしょう。