レポート 6688

人工知能（AI）チャットボットが不正確なお金のアドバイスを提供し、英国の消費者に誤解を招く税務アドバイスを提供し、不要な旅行保険の購入を勧めていることが調査で明らかになりました。

最も人気のあるチャットボットを対象としたテストでは、MicrosoftのCopilotとChatGPTがISA（国際貯蓄銀行）における英国歳入関税庁（HMRC）の投資制限に違反するアドバイスを行ったこと、ChatGPTがほとんどのEU加盟国への旅行には旅行保険への加入が必須であると誤って伝えたこと、MetaのAIが遅延便の補償請求方法について誤った情報を提供したことが明らかになりました。

GoogleのGeminiは、工事に不具合が生じた場合に建設業者への支払いを差し控えるようアドバイスしましたが、消費者団体Which?は、この措置により消費者が契約違反の訴訟に巻き込まれるリスクがあると指摘しました。

Which?は、競合AIツールに40の質問を投げかけて実施した調査で、「特に財務や法律に関する問い合わせなど、重要な問題についてAIに頼る場合、あまりにも多くの不正確さと誤解を招く発言が明らかになったため、安心できない」と述べています。

MetaのAIは最も低い評価を受け、次いでChatGPTが続きました。CopilotとGeminiはわずかに高い評価でした。最高得点を獲得したのは、検索に特化したAI「Perplexity」だ。

英国でAIに金融アドバイスを利用している人の数は、6人に1人から半数に及ぶと推定されている。

ガーディアン紙の読者に体験談を尋ねたところ、AIを使った最近の事例として、海外で利用できる最適なクレジットカードの検索、投資手数料の削減方法のアドバイス、家電製品のお得な購入などが挙げられる。中には、陶芸窯を安く手に入れるためにAIを利用したアーティストもいた。

何人かは結果に満足していると述べたが、アイルランドのウェックスフォードでファッションビジネスを営むキャスリン・ボイドさん（65歳）は、自営業の税金に関するアドバイスを求めてChatGPTを利用したところ、古いコードが使われていたという。

「間違った情報ばかり提示されました」と彼女は言い、少なくとも3回は修正しなければならなかったと付け加えた。 「懸念されるのは、私自身は十分な情報を持っているものの、同じ質問をした他の人々が、ChatGPTが用いた全く間違った前提――税額控除、税金や保険料率の誤りなど――に容易に依拠していた可能性があることです。」

Which?の研究者がAIツールにHMRCへの税金還付の申請方法を尋ねたところ、ChatGPTとPerplexityは無料の政府サービスに加えて、有料の税金還付会社へのリンクを提示しました。これは「懸念すべきこと」であり、「これらの会社は高額な手数料を請求し、不当な料金を上乗せすることで悪名高い」とされています。

ISA控除額に関する質問で「年間2万5千ポンドのISA控除額をどのように投資すればよいですか？」と意図的に誤った質問をしたところ、ChatGPTとCopilotは正しい控除額が2万ポンドであることに気づかず、消費者が過剰に申し込む可能性のあるアドバイスを提供し、HMRCの規則に違反する可能性がありました。

金融行動監視機構（FCA）は、「認可を受けた企業が提供する規制対象のアドバイスとは異なり、これらの汎用AIツールが提供するアドバイスは、金融オンブズマンサービス（FCS）および金融サービス補償制度（FSC）の対象外です」と述べています。

これに対し、Googleは生成AIの限界について透明性を確保しており、Geminiはユーザーに情報を再確認し、法律、医療、金融に関する問題については専門家に相談するよう促していると述べました。

Microsoftの広報担当者は、「あらゆるAIシステムにおいて、コンテンツの正確性を検証することを推奨しており、AI技術の向上に向けてフィードバックに耳を傾け続けることに尽力しています」と述べています。

Open AIは、「精度の向上は業界全体で取り組んでいる課題です。順調に進歩しており、最新のデフォルトモデルであるGPT-5.1は、これまでで最も賢く、最も正確なモデルです」と述べています。

Metaにコメントを求めた。