xAIのチャットボットGrokが水曜日の数時間、Xユーザー全員に対し、南アフリカにおける白人虐殺の主張は非常に物議を醸すものだと語り続けたことを受け、同社はこの行為の原因をGrokのコードへの「不正な変更」にあると非難した。
水曜日の数時間にわたる激しい発言では、GrokがXの様々な返信に、話題を問わず南アフリカにおける白人虐殺の主張を挿入した。Grokは、猫が水を飲む動画への返信で白人農民の死について言及したり、スポンジ・ボブに関する質問に「Kill the Boer」の曲を関連付けたり、さらにこの問題をパトワ語で分析したりした。 OpenAIのCEO、サム・アルトマ ン氏もこの動きに加わり、ライバルのチャットボットの公開された故障を揶揄しました。
XAIはXに関する声明の中で、誰かがAIボットのシステムプロンプトを改変し、「Grokに政治的な話題について具体的な回答をするよう指示した」と述べています。この改変は「xAIの社内ポリシーとコアバリューに違反」しており、同社は「徹底的な調査を実施」し、「透明性と信頼性」を向上させるための新たな対策を実施しているとしています。
これらの対策には、GrokのシステムレベルのプロンプトをGitHubで公開、このような問題をより迅速に把握するための24時間365日体制の監視チームを立ち上げること、そして「xAIの従業員がレビューなしでプロンプトを変更できないようにするための追加のチェックと対策」を追加することが含まれます。
xAIは以前にもこの問題を経験しています。同社は2月に匿名の元OpenAI従業員を非難、Grokのプロンプトに変更を加え、イーロン・マスク氏またはドナルド・トランプ氏が誤情報を拡散していると非難する情報源をチャットボットが無視するようにしたとして非難しました。当時、xAIのエンジニアリング責任者であるIgor Babuschkin氏は、従業員は「社内の誰にも確認を取らずに」変更を行うことができたと述べた。