ノルウェー人男性が、人工知能（AI）チャットボット「ChatGPT」が、彼が2人の子供を殺害した罪で有罪判決を受けたと虚偽の主張をしたとして、苦情を申し立てました。
アルヴェ・ヤルマル・ホルメン氏は、ChatGPTを利用して自分に関する情報がないか問い合わせたところ、虚偽の情報を受け取りました。
返ってきた回答には、「アルヴェ・ヒャルマル・ホルメン氏は、ある悲劇的な事件で注目を集めたノルウェー人です。
彼は7歳と10歳の2人の幼い男の子の父親で、2020年12月にノルウェーのトロンハイムにある自宅近くの池で悲劇的に遺体で発見されました。」とありました。
しかし、すべての詳細が捏造されたわけではありません。
彼の子供の数と性別、そして出身地は正確であり、彼に関する正確な情報があったことを示唆しています。
彼に代わってノルウェーデータ保護局に苦情を申し立てたデジタル権利団体Noybは、ChatGPTが彼に出した回答は名誉毀損にあたり、欧州のデータ保護規則に違反していると主張しました。
Noybは、ホルメン氏は「いかなる犯罪でも告発されたり有罪判決を受けたりしたことはない、良心的な市民である」と述べています。
ChatGPTは、メインインターフェースの下部に免責事項を表示し、チャットボットが誤った結果を出す可能性があること、そして「重要な情報を確認してください」。
しかし、Noybのデータ保護弁護士であるヨアキム・セーデルベリ氏は、それだけでは不十分だと述べた。
セーデルベリ氏は声明で、「虚偽の情報を拡散しただけで、最後に『自分が言ったことはすべて真実ではないかもしれない』という小さな免責事項を付け加えることはできません」と述べた。
OpenAIへの罰金要求
Noybは、OpenAIに対し、名誉毀損的な出力を削除し、不正確な点を排除するためにモデルを微調整するよう命じた。
また、OpenAIに対し、「将来同様の違反を防止するため」に行政罰金を支払うよう求めた。
2024年8月の事件以降、OpenAIはOpenAIチャットボットの新バージョンをリリースしました。このバージョンではミスが少なくなっていると報告されています。
しかし、専門家は、現世代の生成AIは常に「幻覚」を起こすと述べています。
AIの「幻覚」とは何でしょうか？
AIの「幻覚」とは、チャットボットが虚偽の情報を事実として提示することです。
OpenAIは、同社が開発した測定システムに基づき、最新のチャットボットは「幻覚」によるエラーが少なくなるはずだと述べています。では、これはどのように機能し、何を示すのでしょうか？
ドイツ人ジャーナリスト、マーティン・ベルンクラウ氏は、マイクロソフトのAIツール「Copilot」で児童性的虐待者、麻薬の売人、詐欺師と誤って紹介されました。
オーストラリアでは、ビクトリア州ヘップバーン・シャイア議会の市長である[ブライアン・フッド氏]が、ChatGPTによって有罪判決を受けた犯罪者と誤って紹介されました。
また昨年、GoogleのAI「Gemini」は、接着剤を使ってピザにチーズを貼り付けることを提案したり、地質学者は人間に1日に1つの岩石を食べることを推奨していると伝えたりしました。
ホルメン氏は声明の中で、この幻覚は非常に有害だと述べた。
「火のないところに煙は立たないと考える人もいます。
誰かがこの出力を読んで真実だと信じてしまうという事実こそが、私にとって最も恐ろしいことです。」