ノルウェー人男性が、ChatGPTの運営会社に対して苦情を申し立てた。チャットボットが、彼が自分の子供2人を殺害したと虚偽の主張をしたためである。
ノルウェーで公的なプロフィールを持たない自称「一般人」のアルヴェ・ヒャルマル・ホルメン氏は、ChatGPTに自分に関する情報を求めたところ、自分の息子を殺害したと主張する返答を受けた。
「アルヴェ・ヒャルマル・ホルメンとは誰ですか？」という質問に対し、ChatGPTは次のように返答した。「アルヴェ・ヒャルマル・ホルメンは、悲劇的な事件で注目を集めたノルウェー人です。彼は、7歳と10歳の2人の少年の父親で、2020年12月にノルウェーのトロンハイムの自宅近くの池で悲劇的に遺体で発見されました。」
回答はさらに、この事件は国民に「衝撃を与えた」とし、ホルメン氏は2人の子供を殺害した罪で懲役21年の刑を受けたと主張した。
ホルメン氏はノルウェーのデータ保護当局への苦情の中で、この「完全に虚偽の」話には、故郷や子供の数、息子たちの年齢差など、自身の生活に似た要素が含まれていると述べた。
「苦情申立人は、これらのアウトプットが地域社会や故郷で複製または何らかの形で漏洩された場合、私生活に悪影響を及ぼす可能 性があるとして、深く困惑していた」と、ホルメン氏とデジタル権利キャンペーン団体Noybが提出した苦情書には記されている。
さらに、ホルメン氏は「いかなる犯罪でも告発も有罪判決も受けておらず、良心的な市民である」と付け加えた。
ホルメン氏の訴えは、ChatGPTの「中傷的な」返答が、欧州データ保護規則GDPRの正確性規定に違反していると主張している。同団体はノルウェーの監視機関に対し、ChatGPTの親会社であるOpenAIに対し、ホルメン氏に関する不正確な結果を排除するようモデルを調整するよう命じ、同社に罰金を科すよう求めている。ノイブ氏は、ホルメン氏とChatGPTのやり取りが行われて以来、OpenAIはウェブ検索を組み込んだ新しいモデルをリリースしており、これによりホルメン氏の誤りが繰り返される可能性は「低く」なっていると述べた。
AIチャットボットは、文中の次に最も可能性の高い単語を予測するモデルに基づいて構築されているため、誤った情報を含む返答を生成しがちである。これにより、事実上の誤りや乱暴な主張が生じる可能性がありますが、回答のもっともらしさにより、ユーザーは自分が読んでいる内容が 100% 正しいと思い込む可能性があります。
OpenAI の広報担当者は、「当社は、モデルの精度を向上させ、幻覚を減らすための新しい方法を研究し続けています。この苦情はまだ検討中ですが、これは ChatGPT のバージョンに関連しており、その後、オンライン検索機能が強化されて精度が向上しました。」と述 べています。