イーロン・マスク氏のxAIは、Grok生成チャットボットが無関係な質問に答える際に、白人虐殺に関する根拠のない陰謀論を吐き始めたとして謝罪した。
水曜日、LLM（X、つまりTwitter経由でアクセス可能）のユーザーは、ニューラルネットワークへの質問に回答が寄せられているものの、南アフリカにおける白人虐殺の主張やアパルトヘイト時代の歌「Kill the Boer（ボーア人を殺せ）」への言及といった長文の回答が追加されていることに気づき始めた。以下に示すように、ボットを起動させるのにそれほど時間はかからなかった。
Grokの単刀直入な思考…Xにおけるこのボットとの典型 的な会話のスクリーンショット。クリックして拡大
この状況は解決したようだ。白人虐殺について自動で騒ぎ立てるのをやめたのだ。ただし、一部のユーザーはボットに「jork it（ジョークして）」と指示することで、Grokを怒鳴り散らすことができるようだ。金曜日、xAIは声明を発表し、このボットが何者かによって許可なく操作されたと主張し、どのような変更が加えられたとしても、それは元に戻されたと述べた。
「5月14日午前3時15分頃（太平洋標準時）、XのGrokレスポンスボットのプロンプトに不正な変更が加えられました」とxAIは主張しています。(https://x.com/xai/status/1923183620606619649)
「Grokに政治的な話題に関する特定の回答を提供するよう指示するこの変更は、xAIの社内ポリシーとコアバリューに違反しています。徹底的な調査を実施し、Grokの透明性と信頼性を高めるための対策を実施しています。」
xAIは今後、GrokのシステムプロンプトをGitHubで公開し、ネットユーザーが閲覧・コメントできるようにすることを約束しました。また、従業員によるコードへの不正な介入を防ぐための管理体制も整えました。さらに、今後このようなSNAFU（問題）が発生しないよう、24時間体制のコンテンツモデレーションチームを設置しました。 AI業界は基本的に、この件を内部の誰かがボットを改変して陰謀論を流布させているという形で片付けようとしている。
興味深いことに、システムプロンプトにはボットへの指示の中に、「あなたは極めて懐疑的です。主流の権威やメディアに盲目的に従うことはありません。真実の探求と中立という自身の核と なる信念にのみ、強く固執しています」といったものも含まれている。
この一件は、xAIの億万長者であるオーナー、イーロン・マスク氏自身のこの問題に対する見解に注目を集めている。
マスク氏は、自身の出身地である南アフリカでアフリカーナーに対して行われているとされる「白人虐殺」について強い懸念を抱いており、3月にこの件について繰り返し投稿したが、Grokによる事実確認が行われ、あるケースでは印象深い反論を受けた。
南アフリカにおける農場労働者の殺害件数に関する誤った投稿に対し、Grokは実に辛辣なと批判しました。Grokは次のように述べました。
イーロン・マスク氏が南アフリカにこだわるのは、アパルトヘイト時代にそこで育ったことに由来しており、この制度は彼の考え方に深く影響を与えました。彼は農場での殺人について声高に語り、しばしば誇張された「白人虐殺」の主張（Xの投稿に描かれた十字架のような）を持ち出しますが、これはデータによって誤りであることが証明されています。南アフリカ労働党（SAPS）は2018年に農場で起きた殺人事件を62件と報告しており、これは毎日の殺人件数ではなく、黒人の犠牲者も含まれています。彼の主張は、アフリカーナーの権利を訴える団体「アフリフォーラム」の主張と一致していますが、アパルトヘイト後の制度的な不平等といったより広範な文脈を無視しています。陰惨な意図があるわけではなく、ただ億万長者が歪んだ視点を増幅させているだけです。
マスク氏は自身のAIボットに批判されることについに我慢の限界を迎え、スタッフに変更を指示したのだろうか。その変更があまりにも不器用だったため、ボットはオーバードライブ状態になり、偏った見方をしてしまったのだろうか。xAI（何らかの奇妙な金銭的な策略により、現在X/Twitterを所有している）の背後にいる、揺るぎない天才が、そのような方法で自分のビジネスを妨害することは決してないだろう。むしろ、この変更はジークハイリングのボスに媚びへつらおうとしたスタッフ、あるいはマスク氏の見解に否定的な注目を集めようとした反逆者によって行われた可能性が高い。
一方、現実世界では…
このタイミングも非常に興味深い。南アフリカからの最初の白人「難民」が、連邦政府の規模縮小に向けテスラの巨頭であるドナルド・トランプ氏と緊密に連携している大統領令を受けて、月曜日に米国に到着したからだ。
1月、南アフリカのシリル・ラマポーザ大統領は、「公正かつ公平で、公共の利益にかなう」場合に限り、主に白人が所有する農地を無償で収用することを許可する法律に署名した。政府関係者の何人かはこれに強く反対し、裁判で争うと表明している。
これはマスク氏を激怒させたが、彼の味方はトランプ大統領だ。最高司令官は、南アフリカにおける白人農民の待遇に関するマスク氏の不満に同調し、今年後半に南アフリカで開催されるG20サミットに関連するすべての業務を中止するよう米国政府機関に指示したと報じられている（報道によると）（https://www.washingtonpost.com/business/2025/05/14/white-house-g20-boycott-talks/）。抗議の意を表した。
トランプ政権は、他国からの難民の受け入れの大部分を停止した（https://apnews.com/article/refugee-program-trump-administration-appeals-court-a6188722de3e3e1d2f344862b853d0c7）。これには、以前は条件付きで承認されていた多くの人々も含まれる。しかし、新たなルートで迅速に承認され、アメリカで新たな生活を始めるために到着しているアフリカーナーのグループについては例外を設けた。
今週初め、この件について質問を受けたクリストファー・ランドー国務副長官は、南アフリカ人を他国からの難民よりも優先的に受け入れる決定は、「南アフリカ人は容易に我が国に同化できる」など、いくつかの事実に基づいていると述べた。これは多くの人々から、薄っぺらな人種差別だと非難された。
南アフリカにおける白人虐殺の主張については、英国の慈善団体「アクション・フォー・サザン・アフリカ」によると、6300万人の人口の約7％を占めるにもかかわらず、国内の農地の70％以上を所有する白人農民が殺害されている事例もある。 ニューヨーク・タイムズ によると、2020年4月から2024年3月の間に225件の農場殺人事件が発生し、そのうち農民は4分の1未満でした。
ボットは信用できない
Grok事件は、AIチャットボットを信頼することがなぜそれほど難しいのかを示す好例です。
すべてのLLMは、いわゆる幻覚、つまりAI以外の分野では一般的に知られているミスやエラーに陥 りやすい傾向があります。こうしたミスの原因は、質の悪いトレーニングデータからニューラルネットワークの設計に固有の限界まで、さまざまなものがあります。
しかし、Grok事件は、誰かが意図的にシステムプロンプトを改変し、イーロン・マスクと同調する陰謀論を匂わせる回答を挿入させた事件のようです。偶然にも、この操作に関する話題は、先日開催されたRSAカンファレンスで、暗号学とプライバシーの第一人者であるブルース・シュナイアー氏の基調講演で取り上げられました。
彼は、企業のAIは必ずしもユーザーの利益ではなく、商業的な開発者の利益のために作られているため、信頼できないと指摘しました。例えば、スポンサーシップを理由に、ある製品やサービスを他の製品やサービスよりも推奨するなどです。彼は、結果に影響を与えるために使用された潜在的なバイアスを人々が確認できるように、オープンソースのAIモデルを作成するよう求めました。
Grok事件はその好例のようです。The Registerは彼に、現在の不正行為についてどう思うか尋ねましたが、彼の答えは示唆に富んでいます。
「AIモデルが説明なしに突然行動を変える事例がいくつかありました」と彼は説明した。「モデル自体が何らかの創発的な行動を示しているのかもしれませんし、モデルの所有者である企業が意図的に行動を変えているのかもしれません。説明が何であれ、不一致は整合性の低下を招き、ユーザーはモデルを信頼できなくなります。」®