カスタマーサービスプラットフォームにAIを導入している世界の航空会社への警告として、エア・カナダは、悲しみに暮れる乗客がAI搭載チャットボットの無効化を試みたものの失敗に終わり、少額訴訟で敗訴しました。
乗客は、チャットボットが航空会社のポリシーに反する回答を幻覚的に提示したため、航空会社の弔慰料金に関する規則について誤解を招いたと主張しました。カナダの小額訴訟裁判所は、乗客の主張が正当であると判断し、損害賠償と訴訟費用として812.02ドルの支払いを命じました。
祖母の死後、乗客はエア・カナダのウェブサイトでチャットボットを使用し、弔慰料金を遡及的に申請できる可能性のあるフライトを検索しました。乗客はチャットボット の回答のスクリーンショットを撮影し、裁判所に提出しました。チャットボットは顧客に次のように伝えました。
「エア・カナダでは、近親者の急逝や死去に伴いご旅行が必要な場合、弔慰料金の割引を提供しています。…今すぐご旅行が必要な場合、または既にご旅行済みで弔慰料金の割引をご希望の場合は、航空券発行日から90日以内にチケット払い戻し申請フォームにご記入の上、お手続きください。」
エア・カナダの訴訟の核心は、下線部のテキストにありました。これは、航空会社のウェブサイトにある弔慰料金ポリシーページへのライブリンクでした。当該ページは、チャットボットの「当社の遺族対応ポリシーでは、既に発生した旅行の払い戻しは認められておりませんのでご了承ください」という記載と矛盾しています。
エア・カナダは、チャットボットの応答にリンクが提供されていたため、乗客にはチャットボットの応答を確認する機会があったと主張しました。しかし、裁判所は、エア・カナダがウェブサイト上でチャットボットが提供する情報を乗客が信頼すべきでない理由を説明していないと判断しました。
乗客は後にエア・カナダの従業員から、エア・カナダが遡及的な遺族補償申請を受け付けていないことを知りましたが、訴訟記録によると、それでも払い戻しを求めました。エア・カナダは乗客の苦情に対応するため200ドルの航空券を提供しましたが、乗 客はこれを拒否しました。
チャットボットの不具合は「過失による虚偽表示」に該当する
裁定所は、エア・カナダに対する請求は「過失による虚偽表示」に該当すると判断しました。
エア・カナダは、チャットボットを含む代理店、従業員、または代表者によって提供された情報については責任を負わないと主張している。しかし、なぜそう考えるのか説明していない。事実上、エア・カナダはチャットボットは独立した法人であり、その行動に責任を負うと主張している。これは注目すべき主張である。チャットボットには対話的な要素があるとはいえ、それでもエア・カナダのウェブサイトの一部に過ぎない。ウェブサイト上のすべての情報について責任を負うことは、エア・カナダにとって明白であるべきである。情報が静的なページから提供されたものであれ、チャットボットから提供されたものであれ、何ら違いはない」と、民事解決審判所のクリストファー・C・リバーズ判事は判決文の中で述べている。
リバーズ判事は、エア・カナダが「チャットボットの正確性を確保するために合理的な注意を払っていなかった」と判断した。エア・カナダは審判所に対し、「『忌引旅行』というタイトルのウェブページがチャットボットよりも本質的に信頼できる理由」を説明していない。また、顧客がウェブサイトのある部分に記載されている情報を、別の部分で確認しなければならない理由も説明していない。
エア・カナダはAIに過剰投資しすぎたのか？
エア・カナダは、業務と顧客体験の向上にAIを活用するため、2019年に人工知能ラボを導入しました。
「ビッグデ ータとAIは今や当社の事業の大きな部分を占めています」と、エア・カナダの社長兼CEOであるカリン・ロビネスク氏は当時、Future Travel Experience に語りました。
昨年、エア・カナダはAIを活用した音声カスタマーサービスチャットボットの導入に関する大規模な計画も発表しました。このチャットボットは、最終的に、この件で亡くなった乗客にウェブサイトのチャットボットの誤りを説明していた担当者を置き換える可能性があります。
興味深いことに、Business Traveler の報道によると、エア・カナダの副社長兼最高情報責任者であるメル・クロッカー氏は、AIを活用した音声カスタマーサービスへの初期投資額は、コールセンターの従業員に顧客の簡単な質問に対応するだけの人件費よりも高額であることを認めています。
「私たちは雇用を奪うつもりでこの取り組みを始めているわけではありません」とクロッカー氏は述べました。「しかし、人間的な対応が必要な問題を人間で解決し、自動化できる問題をテクノロジーで解決できるのであれば、そうします。」
皮肉にも聞こえる発言ですが、クロッカー氏はさらにこう付け加えました。「私たちにとってAIの最大のメリットは、根本的に顧客体験を向上させることです。そして、顧客満足度が向上すれば、エア・カナダを利用する機会が増えることになります。」
少額訴訟によるエア・カナダの損害は金銭的にはそれほど大きくなかったものの、顧客サービスの評判には悪影響を与えました。航空会社は、乗客に弔慰料金の差額を支払う余裕は十分にあったはずです。
もしエア・カナダがそうしていれば、チャットボットが顧客に誤った情報を提供した原因を調査する中で、この問題はそれほど注目を集めることはなかったでしょう。しかし、この訴訟は重要な問題を提起し、航空会社のAI搭載システムの性能に対する責任に関する先例となる可能性を秘めています。
消費者の権利とAIによる幻覚
AIツールは幻覚の影響を受けやすく、突発的に情報を作り出しているように見えます。
「AI幻覚とは、大規模言語モデル（LLM）（多くの場合、生成AIチャットボットやコンピュータービジョンツール）が、存在しない、あるいは人間の観察者には知覚できないパターンやオブジェクトを認識し、無意味または全く不正確な出力を生成する現象です」とIBMIBM -2.5% は自社のウェブサイトで説明しています。
エア・カナダのライバルであるウエストジェット航空は、2018年にそのような幻覚的な事件を経験しました。同社のチャットボット「ジュリエット」は、客室乗務員が多肉植物の挿し木を気遣ってくれたと喜ぶ顧客を誤って解釈し、自殺ホットラインに誘導しました。この事件で実害はなく、顧客はこの状況を面白がっていました。
しかし、最近のエア・カナダの事件が示すように、AIによる幻覚には代償が伴う可能性があります。
航空会社は金融機関ではありませんが、重要な取引や通貨のようなポイントやマイルの取り扱いを担っているため、幻覚作用を持つAIが消費者に誤った情報を提供した場合、責任を問われる可能性があります。米国消費者金融保護局（CFPB）は、人工知能（AI）の利用と、この技術が消費者の権利に与える影響を綿密に監視しています。
CFPBは昨年、銀行のチャットボットに関する調査（公開）において、チャットボットは顧客の基本的な質問に答えるのに役立つものの、「問題が複雑になるにつれてその効果は低下する」と結論付けました。
「消費者からの苦情や現在の市場調査から、チャットボット機能の技術的な限界により、一部の人々が重大な悪影響を被っていることが明らかになった」と報告書は指摘している。「顧客にとっての悪影響は多岐にわたり、時間の浪費、行き詰まりやフラストレーション、不正確な情報の受け取り、無駄な手数料の高額支払いなどが挙げられる。これらの問題は、人々が自分の問題に合わせたサポートを受けられない場合に特に顕著になる。」
CFPBはまた、「金融機関はチャットボット技術を導入する際に、法的義務違反、顧客の信頼低下、そして消費者への損害を引き起こすリスクがある。チャットボットが置き換えるプロセスと同様に、チャットボットは適用されるすべての連邦消費者金融法に準拠する必要があり、準拠していない企業はこれらの法律違反の責任を負う可能性がある。チャットボットは、プ ライバシーやセキュリティ上のリスクも引き起こす可能性がある。チャットボットの設計が不十分な場合、または顧客がサポートを受けられない場合、広範囲にわたる損害が発生し、顧客の信頼が著しく損なわれる可能性がある。」
一般的な顧客の問い合わせにAIを活用しているのは、エア・カナダだけではない。世界中の多くの航空会社や空港は、ウェブサイトやアプリ、そして人気のソーシャルメディアチャネル上で、顧客サービスフローに自動チャットやボットを導入しています。
しかし、この技術は絶対確実ではないため、航空会社はAIの幻想による法的および財務的リスクを考慮する必要があります。現段階では、AIがどこまで活用できるかを再考する必要があるかもしれません。