ミズーリ州ウェンツビル（ファーストアラート4）- 地元の人気レストランが、Google検索結果の精度向上を目的とした人工知能（AI）ツールが顧客に混乱を招いていると訴えています。
ウェンツビルのステファニーナズでは、検索結果に誤解を招く情報や全くの虚偽の情報が含まれている可能性があると警告しました。
投稿には次のように書かれていました。
「当店のスペシャルメニューを調べるのにGoogle AIをご利用にならないでください。Facebookページまたはウェブサイトをご覧ください。Google AIは正確性に欠け、存在しないスペシャルメニューを提示しているため、怒 ったお客様が従業員に怒鳴り散らしています。Googleの投稿や発言内容を当社が管理することはできません。Google AIによるスペシャルメニューは適用いたしません。」
レストランオーナーのエヴァ・ギャノン氏は、問題は、お客様がステファニーナズで実際には提供されていない割引や特典について知っていたことだと述べています。
彼女が紹介した例としては、AIによる概要表示で、ステファニーナズがラージサイズのピザをスモールサイズと同じ価格で提供していると表示されていたことが挙げられます。また、このツールによって生成された一部のメニュー項目にも誤りがあったと彼女は述べています。
「これは我々に跳ね返ってくる」とギャノン氏は述べた。「中小企業である我々は、Google AIの特別サービスを受けることができない」
Googleはこの件に関するFirstAlert4からのメッセージに返答しなかった。しかし、同社のAI利用に関するオンラインガイドでは、ツールの誤操作や検索対象データの誤認識により、結果が不正確になる場合があると警告している。
ワシントン大学で人工知能（AI）の活用と教育に携わるジョナサン・ハナハン教授は、AIは有用ではあるものの、ユーザーには懐疑的な姿勢と事実確認の姿勢が求められるツールだと述べた。
「AIを使うことと、AIと共に働くことには大きな違いがある」とハナハン教授は述べた。
ハナハン教授は、自身が開発中のゴルフスコアリングアプリを例に挙げた。AIを使えば、通常は何時間もかけて収集するような コース情報を素早く取り込むことができる。しかし、アプリを効果的に機能させるには、ソフトウェアが収集する情報を相互に照合する必要がある。
ハナハン教授は、AIを使って情報を検索する際の問題点として、プロンプト内の特定の表現が情報を歪め、確証バイアスのリスクにつながる可能性があると述べた。
「探している情報を得るために、時には勝手な解釈が必要になることもある」とハナハン教授は説明した。
ハナハン教授は、ユーザーが情報収集に用いる質問やプロンプトの種類について慎重に検討し、いわゆる「二項対立」を避けることが重要だと指摘した。
「どのようにヒントを出し、どのように質問するかを考えてみてください」と彼は言った。「知りたい情報だけでなく、会話全体について考えてみてください」