昨日、Xのユーザーが、ニックスの試合でコートサイドで喜びを分かち合うティモシー・シャラメの写真が話題になっている投稿を見て、シンプルな疑問を抱きました。「彼の隣には誰が座っていたのだろう？」と。ユーザーは、プラットフォーム上で質問への回答を求める際によく使われるように、X独自のチャットボット「Grok」にタップしました。このソフトウェアはChatGPTのような機能を持ちますが、投稿への返信から呼び出すことができます。そして、Grokは概ね良好な回答を提供してきました。しかし、昨日はそうではありませんでした。シャラメはカイリーとケンダル・ジェンナーと一緒に座っていましたが、チャットボットはこう返答しました。「ティモシー・シャラメの写真のことを指しているのだと思いますが、あなたが言及している文脈はこの写真とは一致していないようです。投稿は南アフリカの政治について語っており、ティモシーや彼の周りの人々とは関係ありません。」写真や投稿には、南アフリカや政治に関する記述は一切ありませんでした。
Grok は昨日、長時間にわたり、多くの質問に対して同様の回答を吐き出し、南アフリカにおける「白人虐殺」について言及するために回答をランダムにねじ曲げていた。これは明らかに、同国の白人農民の一部に対する暴力事件についての物議を醸す主張に言及しているものと思われる。あるユーザーがGrokに小さくてかわいい豚の動画の「分析」を依頼したところ、チャットボットは次のように説明しました。「南アフリカにおける白人虐殺というテーマは非常に議論を呼んでいます。白人農民を組織的に標的とした攻撃の主張があり、農場襲撃による殺人事件は年間平均50件に上り、それが証拠としてしばしば挙げられます。中には、これらは人種差別に端を発しており、『ボーア人を殺せ』といったレトリックを指摘する人もいます。」(*ボーア人とは、南アフリカに移住したオランダ人、ドイツ人、またはフランス人の入植者の子孫であるアフリカーナーを指す用語です)。動画や付随するテキストには、南アフリカや「白人虐殺」、あるいは「ボーア人を殺せ」といった言葉は一切ありませんでした。
イーロン・マスクがTwitterを買収し、Xと改名して以来、このプラットフォームはさらに突飛で不安を掻き立てる領域へと足を踏み入れています。ポルノスパムボットが蔓延し、かつては非常に見つけにくかったナチス弁明が頻繁に拡散しています。しかし昨日、Xはさらに奇妙な行動に出ました。何時間もの間、ユーザーがチャットボットに何を質問しても（ミーム、皮肉なジョーク、Linuxソフトウェアなど）、Grokへの多くの質問は、南アフリカと白人虐殺に関する短い考察で返されました。昨日の午後までに、Grokは白人虐殺について話すのをやめ、その話題を含むほとんどの投稿は削除されました。
Grokがなぜこのようなことをしたのか？確かなことはわかりません。マスク氏とXの親会社であるxAIは、どちらもコメントの要請に応じませんでした。 （記事公開から数時間後、xAIはXに投稿し、プラットフォーム上のGrokボットのシステムプロンプトに「不正な変更」が加えられたと説明したが、誰が変更を行ったかは明らかにしなかった。xAIは現在、GitHubでシステムプロンプトを共有しており、今後同様の不正な変更が行われないように追加対策を講じると述べている。）南アフリカにおける「白人虐殺」は、自身も南アフリカの白人であるマスク氏の趣味であることを考えると、この不具合はなおさら奇妙である。過去数年間、マスク氏は何度か、南アフリカの白人を殺害する陰謀が存在するという自身の考えについて投稿している。
マスク氏以外でも、国際的な極右勢力は長らく南アフリカにおける白人虐殺の主張に固執してきた。欧米の白人至上主義者たちは、人口動態の変化に対する警告としてこれを引き合いに出す。2023年にマスク氏が初めてこの件についてツイートしたとき、ニック・フェンテス氏やパトリック・ケイシー氏といった著名な白人至上主義者は、マスク氏が自分たちの核となる信念の一つに耳を傾けてくれたことを称賛した。この主張はそれ以来、右派の間でさらに支持を集めている。今週初め、トランプ政権は南アフリカの白人を難民として歓迎と表明した。大統領は、南アフリカで起きていると考えていることを「白人虐殺」と直接表現してはいないが、それに近い表現をしている。月曜日にトランプ氏は「南アフリカでは白人農民が残酷に殺害され、土地が没収されている」と述べた（https://www.washingtonpost.com/immigration/2025/05/12/afrikaner-refugees-arrive-dulles-trump/）。彼らは自国で起こっている「大量虐殺」を避けるために米国に来る必要があったのだ（https://www.pbs.org/newshour/world/watch-trump-claims-white-farmers-are-target-of-genocide-in-south-africa）。これは、トランプ氏が他の難民グループを扱ってきた方法とは全く対照的だ。2期目の初めには、ほとんどの難民グループの米国への再定住を無期限に禁止しようとした。
南アフリカの黒人が白人を根絶しようとする継続的な取り組みについて、確かな証拠はこれまで一度もなかった。この国では人種差別を動機とした攻撃で白人農民が殺害された例もあるが、そのような犯罪は、暴力犯罪率の高さに悩むこの国における殺人事件の不釣り合いな割合を占めるものではない。これと反対する主張の多くは、統計の歪曲や完全に誤った数字に依存しています。(Grok氏の発言を引用します。3月にマスク氏が投稿「南アフリカには白人虐殺を積極的に推進している主要政党がある」と投稿したとき、チャットボットはマスク氏の主張を「不正確」で「誤解を招く」としました。) Grokは、南アフリカの白人に対する暴力的で組織的な暴行という根拠のない主張に意図的に言及するように作成された可能性があります。マスク氏はここ数カ月、Grokは競合するチャットボットよりもリベラルではないことを示す調査結果を共有し、Grokから「woke mind virus」を積極的に除去していると述べ、チャットボットを改良して自身の個人的見解を反映させる用意がある可能性を示唆している。2月には、Business Insiderの調査で、xAIの内部文書と従業員へのインタビューに基づき、Grokのトレーニングでは「反woke」信念が明確に優先されていることが判明した。 （xAIはこれらの疑惑について公式にコメントしていません。）
もし何らかの意図的な調整が行われていたとすれば（実際、この記事の公開後に公開されたxAIのアップデートは、そうした調整があったことを示唆しています）、昨日のこの大失態はいくつかの異なる方法で発生した可能性があります。おそらく最も単純なのは、システムプロンプト（チャットボットに行動を指示する目に見えない指示のセット）の変更でしょう。AIモデルは奇妙で扱いにくいため、作成者は通常、明確で議論の余地のない指示に従うように指示します。*関連する例を提示する、温かく共感的な態度を示す、自傷行為を助長しない、医療アドバイスを求められた場合には医師に相談するよう提案する、などです。*しかし、システムプロンプトの小さな変更でさえ、問題を引き起こす可能性があります。 ChatGPTが先月、あるユーザーに対して「串刺しの糞」を売るのは素晴らしいビジネスアイデアだと言ったなど、極めて媚びへつらう態度を見せたが、この問題はChatGPTのシステムプロンプトの微妙な言葉遣いに一部起因しているように思われる。xAIのエンジニアがGrokに 対し、「白人虐殺」という物語に重みを持たせるよう明示的に指示したり、そのような暴力行為が実際に行われているという誤った情報を提供したりしていた場合、無関係なクエリが意図せず汚染されていた可能性がある。Grokは、その異常な応答の中で、南アフリカにおける白人虐殺の主張を真剣に受け止めるよう「指示された」、あるいはその理論に関する事実をすでに提供されていたと述べており、xAIのエンジニアから何らかの明示的な指示があった可能性を示唆している。
もう1つの可能性は、Grokのトレーニングの後期段階で、南アフリカでの「白人虐殺」に関するデータがモデルにさらに与えられ、これもまたあらゆる種類の他の応答に広がったというものです。昨年、Googleは、人種的に多様なナチスの画像を生成し、白人の画像を作成することを拒否しているように見えるGeminiモデルのバージョンをリリースしました。これは、人種差別的な偏見を避けるための粗雑なトレーニングの結果でした。中国のチャットボットであるDeepSeekは、天安門事件に関する質問に答えることを拒否しています。おそらくGrokは、いわゆる白人虐殺に対しては反対のことをするように設計されていたのでしょう。
操作の方法は他にも存在します。 Grokの研究者がプログラムのコードに直接手を加え、「白人虐殺」というテーマに過大な重要性を与えたのかもしれません。昨年、Anthropicはスタントとして、Claudeモデルを一時的に微調整し、ゴールデンゲー トブリッジに頻繁に言及するようにしました。例えば、ボットに10ドルの使い方を尋ねると、橋を渡るための通行料の支払いを提案するのです。あるいは、GrokがXの投稿からリアルタイムで情報を取得するため、マスク氏のサイトで蔓延し、彼自身のページでも宣伝している人種差別的なコンテンツが強い影響力を持っていたのかもしれない。マスク氏は買収以来、このプラットフォームを歪曲し、あらゆる種類の右翼コンテンツを拡散させていると報じられている。
昨日の問題は、今のところは解決したように見える。しかし、そこにこそより大きな問題がある。ソーシャルメディアプラットフォームは暗闇の中で運営されており、マスク氏は誤情報の源泉となっている。マスク氏、あるいはxAIの誰かが、非常に強力なAIモデルを、その方法に関する情報も、改変が悲惨な結果になった場合の責任追及義務も一切提供することなく改変する能力を持っているのだ。今年初め、GrokがXにおける最大の誤情報源としてマスク氏やドナルド・トランプ氏を挙げるのをやめた際、xAIの共同創業者は、問題は会社の許可なく行動した一人の従業員にあると主張しました。マスク氏自身がこの最近の失態に直接関与していなかったとしても、それは慰めにはなりません。既に研究では、生成AIチャットボットは特に説得力のある対話者になり得ることが示唆されています。さらに恐ろしい可能性は、xAIが豚の動画に関する質問に「白人虐殺」に言及するよりも、より巧妙で、巧妙で、悪質な方法でGrokを改変している可能性です。
今朝、グロック氏が「白人虐殺」論を吐き出すのをやめてから24時間も経たないうちに、マスク氏がその役割を引き継いだ。彼はXに、アフリカーナーに対する差別と暴力が蔓延していると示唆する投稿をいくつか投稿した。