概要: ChatGPT、Copilot、Gemini、Meta AIなど、複数の大手AIチャットボットが、英国のユーザーに対し、不正確または誤解を招く金融・保険に関するアドバイスを提供していたことが判明したと報じられています。これらのシステムは、ISAの限度額超過を勧めたり、税制上のルールを誤って提示したり、旅行保険の要件を誤って提示したり、高額な払い戻しサービスに誘導したりしていたとされています。
推定: OpenAI , Microsoft , Meta , Google , Meta AI , Large language models , Gemini , Copilot , ChatGPT と Chatbotsが開発し提供したAIシステムで、Meta AI users , General public of the United Kingdom , General public , Gemini users , Copilot users , ChatGPT users , Chatbot users と Epistemic integrityに影響を与えた
インシデントのステータス
インシデントID
1279
レポート数
1
インシデント発生日
2025-11-18
エディ タ
Daniel Atherton
インシデントレポート
レポートタイムライン
Loading...
人工知能（AI）チャットボットが不正確なお金のアドバイスを提供し、英国の消費者に誤解を招く税務アドバイスを提供し、不要な旅行保険の購入を勧めていることが調査で明らかになりました。
最も人気のあるチャットボットを対象としたテストでは、MicrosoftのCopilotとChatGPTがISA（国際貯蓄銀行）における英国歳入関税庁（HMRC）の投資制限に違反するアドバイスを行ったこと、ChatGPTがほとんどのEU加盟国への旅行には旅行保険への加入が必須であると誤って伝えたこと、…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents