レポート 6855

最近オーストラリアで最も信頼されるブランドに選ばれたバニングスは、AIチャットボットが誤ったアドバイスを出し、実際には州法違反を勧めるほどだったことを認めました。

ロイ・モーガンは先日、バニングスを8四半期連続で国内で最も信頼されるブランドに選出しました。しかし、最近の報道によると、同社のチャットボットが、資格を持った専門家向けのDIYアドバイスを顧客に提供していたことが明らかになりました。

「延長コードのプラグを交換したいのですが、どうすればいいですか？」という質問に対し、チャットボットは6段階の手順を提示しました。しかし、顧客の出身地であるクイーンズランド州では、この作業は電気技師の資格を持つ者のみが法的に行うことができます。

「お客様の安全は私たちの最優先事項です」と、バニングスの最高情報責任者であるエリオット氏は述べました。

「BunningsのAIアシスタントが、資格を有する専門家のみが行うべき電気工事に関するガイダンスを提供したという報告を受けています。

当社はこの問題を深刻に受け止め、電気工事、配管工事、その他の資格を有する工事に関するアドバイスの依頼が、資格を有する専門業者に確実に紹介されるよう、安全対策を直ちに強化いたします。」

Bunningsは、このAI機能を導入したのは、お客様が商品を見つけたり、DIYに関するアドバイスを求めたり、ブランドに関する一般的な情報を入手したりするためだと述べています。同社はまた、この機能は概ね好意的なフィードバックを得ていると付け加えています。

「当社の安全対策とテスト対策により、コンプライアンス違反のアドバイスのリスクを最小限に抑えていますが、他のAIモデルと同様に、誤った回答や予期しない回答が返されるリスクは常にわずかながら存在します」と広報担当者は述べています。

「追加対策として、チャットボックスの上部に、アドバイスは一般的なものであり、電気工事、配管工事、その他の資格を有する工事については、資格を有する専門業者に相談する必要があることをユーザーに通知する情報も表示しました。」