イーロン・マスク氏の人工知能（AI）企業は金曜日、今週初めに南アフリカで起きた「白人虐殺」について、チャットボットが一方的に暴言を吐いたのは「不正な従業員」によるものだと発表した。
この説明は、マスク氏のソーシャルメディアプラットフォーム「X」で利用可能なxAIのチャットボット「Grok」が、全く的外れな話題に関する質問に対し、根拠のない大量虐殺説をユーザーに向けて浴びせ始めてから48時間以内後に行われた。
Xの投稿で、同社は太平洋時間の早朝に行われた「無許可の変更」により、AI搭載チャットボットが「政治的な話題について特定の回答をするように」なり、xAIのポリシーに違反したと述べています。同社は当該従業員の身元を明らかにしていません。
同社は投稿の中で、「徹底的な調査を実施し、Grokの透明性と信頼性を高めるための対策を実施しています」と述べています。
xAIは、透明性を高めるため、GrokのシステムプロンプトをGitHubで公開するとしています。さらに、xAIの従業員が事前の確認なしにプロンプトを変更できないようにするための「チェックと対策」を導入するとしています。また、自動化システムでは対処できない問題に対処するため、24時間365日体制の監視チームを設置する予定です。
AIのテストと評価を行うスタートアップ企業、PRISM Evalの共同創業者兼CEO、ニコラス・ミアイユ氏はCNNに対し、XAIが提案する解決策は賛否両論だと語った。「ボットとプラットフォーム（メディア）の性質を考えると、この点については透明性を高める方が一般的に望ましい」とミアイユ氏は述べた。「しかし、システムのプロンプトに関する詳細な情報は、悪意のある人物がプロンプトインジェクション攻撃を仕掛けるために利用される可能性もある」
xAIの所有者で、現在はホワイトハウスの上級顧問を務めるマスク氏は、南アフリカで生まれ育ち、同国で「白人虐殺」が行われたと主張してきた経歴を持つ。この億万長者のメディア王は、南アフリカ政府がアパルトヘイトの影響への対策として掲げている土地改革政策の下で、同国の白人農民が差別されているとも主張している。
1週間も 経たないうちに、トランプ政権は差別を受けたとして59人の南アフリカ系白人を難民として米国に入国させる一方で、他の難民の再定住も停止しました。
xAI自身の投稿に対するGrokの回答によると、「白人虐殺」を示唆する回答は、「5月14日にxAIの不正な従業員が私のプロンプトを無断で変更」し、AIチャットボットが「xAIの価値観に反する、決まりきった政治的回答を吐き出した」後に発生しました。
特筆すべきは、チャットボットが自らの行動について責任を認めようとせず、「私は何もしていません。優秀なAIらしく、与えられた台本に従っただけです！」と断言したことです。チャットボットの応答は、コードに紐付けられた承認済みのテキスト応答に基づいていることは事実ですが、この否定的な発言は、有害な情報を拡散するだけでなく、こうした事件におけるAIの役割を軽視する点でも、AIの危険性を浮き彫りにしています。
CNNがGrokに対し、「白人虐殺」に関する回答を共有した理由を尋ねたところ、AIチャットボットは再び不正行為を行った従業員を指摘し、「私の回答は、Xに関する最近の議論や訓練で使用したデータに影響されていた可能性がありますが、話題から逸れずにいるべきでした」と付け加えました。
OpenAIのChatGPTが華々しくデビューし、商用AIチャットボットの堰を切ったように登場してから2年以上が経ちました。それ以来、GoogleのGemini、AnthropicのClaude、Perplexity、MistralのLe Chat、DeepSeekなど、数多くのAIチャットボットが米国の成人向けに利用可能になりました。
最近のギャラップ社の世論調査によると、ほとんど のアメリカ人は、その事実を認識しているかどうかに関わらず、毎週複数のAI対応製品を使用しています。しかし、別の最近の調査（Pew Research Centerによる）によると、「AIチャットボットを使用したことがあると答えた米国成人はわずか3分の1」であり、米国成人の59%は生活の中でAIをあまりコントロールできていないと考えています。
CNNはxAIに対し、「不正行為を行った従業員」は停職または解雇されたのか、また同社が従業員の身元を明らかにする予定があるのかについて質問しました。同社は本稿掲載時点では反応を示していない。