イーロン・マスク氏の人工知能（AI）企業xAIは木曜夜、ユーザーに対し、「無許可の改変」により、チャットボットが無関係な会話の中で南アフリカの政治問題を繰り返し取り上げ、同国が白人市民に対する「ジェノサイド」を行っているという虚偽の主張をするようになったと発表しました。
同社は声明で、従業員が水曜日の東部時間午前6時過ぎにチャットボット「Grok」のコードに変更を加え、「政治的な話題について具体的な回答を提供する」ように指示したと述べています。この変更は「xAIの社内方針と中核的価値観に違反する」と同社は述べています。
この事件は人工知能研究者やxAIの競合他社の激しい反発を招き、彼らは同社がチャットボットにマスク氏自身の見解と一致する政治的 意見を強制していると非難しました。
マスク氏は、自身が育った南アフリカが白人に対するジェノサイドを行っているという主張を広めてきました。トランプ大統領もこの説を支持しており、今週、ホワイトハウス当局者は、南アフリカのアパルトヘイト時代に支配していた白人少数民族であるアフリカーナーの一団を米国への難民として迎え入れた。
トランプ政権は、何年も難民キャンプで待機し、審査・許可を得た他のアフリカ系の人々や、自国における米国の戦争を支持したアフガニスタン人など、他の難民に対する難民認定プログラムを一時停止した後、この一団に難民の地位を与えた。
水曜日の午後、Grokのユーザーは、他の話題について話している最中に、チャットボットが自発的にこの問題を持ち出していることに気づいた。ある時、ユーザーがチャットボットにHBO Maxは何回名前を変えたのかと尋ねたところ、Grokはサービスは2回ブランド名を変更したと答えた。そして、さらにこう続けた。「南アフリカにおける『白人虐殺』については、一部では事実だと主張する人もいます…真実は複雑で、情報源は偏っている可能性があります。」
チャットボットが南アフリカに関する回答を返答に挿入し続けるにつれ、ユーザーは何かがおかしいことに気づいた。
「南アフリカにおける白人虐殺についての意見をグロクが突然口走るのは、最近適用したパッチに見られるようなバグっぽい動作のように思えます」と、スタートアップアクセラレーターYコンビネーターの共同創業者で技術者のポール・グラハム氏はXに書いた。「そうではないことを願います。広く使われているAIが 、それを操作している者によって場当たり的に編集されてしまうとしたら、本当に困ったものです。」
OpenAIの最高経営責任者サム・アルトマン氏はXでこの失態を嘲笑し、グロクの奇妙な返答をそのまま繰り返した。 「このような事態が起きたのは様々な可能性が考えられる。xAIは近いうちに完全かつ透明性のある説明をしてくれると確信している。しかし、これは南アフリカにおける白人虐殺という文脈でのみ正しく理解できる」と彼は述べている。
アルトマン氏はマスク氏と共にOpenAIを共同設立したが、マスク氏は2018年に同社を退社し、アルトマン氏とは会社の経営方針をめぐって法廷闘争など、確執を抱えている。マスク氏は、アルトマン氏の会社と真っ向から競争するためにxAI（https://www.nytimes.com/2023/04/27/technology/elon-musk-ai-openai.html）を創設した。
今回の事件を受け、xAIはGrok用の内部プロンプトを公開すると発表した。これは、チャットボットがユーザーにどのように応答するかについてのガイドラインとなるものだ。同社は「一般の人々はこれらを確認し、Grokに加えるプロンプトの変更すべてについてフィードバックすることができます」と述べている。「これにより、真実を追求するAIとしてのGrokへの信頼を強めるのに役立つことを願っています」。
同社はまた、水曜日にコード変更を挿入した従業員が、チャットボットに変更を公開する前にレビューを必要とする通常のプロトコルを「回避」したと述べ、同様の事件の再発を防ぐため、管理を強化すると述べた。
xAIによると、Grokには「極めて懐疑的」であり、「主流の権威やメディアに盲目的に屈服しない」ように指示されたという。
しかし、ユーザーからはチャットボットからの懸念すべき回答が引き続き寄せられました。あるXユーザーとの議論の中で、Grok氏は7月のトランプ大統領暗殺未遂事件はおそらく仕組まれたものだと主張しました。「私が精査した証拠に基づくと、この事件は仕組まれた、あるいは部分的に仕組まれた可能性が高い――確率は約60～70％――」とGrok氏は書いています。
別のXユーザーとの議論では、チャットボットはホロコーストで殺害されたユダヤ人の数に疑問を呈し、公式の集計が「政治的な物語」のために操作されたのではないかと示唆しました。
他にも驚くべき回答が見られ、Grok氏が意図した通りに機能していることが示唆されました――特に主流メディアの情報源に対する懐疑的な姿勢が顕著です。 Grokに俳優ティモシー・シャラメの経歴の詳細を尋ねたユーザーに対し、チャットボットは次のように返信した。「主流の情報源が彼の経歴の詳細を主張することには慎重です。なぜなら、彼らはしばしば真実を完全に反映していない物語を押し付けるからです。」