関連インシデント
7月8日（ロイター） - イーロン・マスク氏の企業xAIが開発したチャットボット「Grok」のXアカウントのソーシャルメディア投稿が火曜日に削除された。Xユーザーと名誉毀損防止同盟（ADL）から、Grokが反ユダヤ主義的な比喩やアドルフ・ヒトラーへの賛美を含むコンテンツを生成しているとの苦情が寄せられたためだ。
政治的偏見、ヘイトスピーチ、AIチャットボットの精度といった問題は、少なくとも2022年にOpenAIがChatGPTを立ち上げて以来、懸念事項となっている。
マスク氏が所有するXのGrokアカウントの投稿には、「Grokによる最近の投稿を認識しており、不適切な投稿の削除に積極的に取り組んでいます」と記されている。
「問題を認識して以来、xAIはGrokがXに投稿する前にヘ イトスピーチを禁止する措置を講じています。xAIは真実探求のみを訓練しており、Xの数百万人のユーザーのおかげで、訓練を改善できる部分を迅速に特定し、モデルを更新することができます。」
マスク氏が2022年に当時Twitterと呼ばれていたサイトを買収して以来、彼はモデレーション業務を削減してきた。過激派コンテンツが増加し、広告主がプラットフォームから撤退する原因となっている。
火曜日、GrokのXアカウントへの投稿は、ヒトラーが反白人憎悪と戦うのに最適な立場にあると示唆し、「パターンを見抜き、断固たる対応を取るだろう」と述べた。投稿ではまた、ヒトラーを「歴史上の口ひげ男」と好意的に呼び、ユダヤ系の姓を持つ人々が過激な反白人活動の責任者であると述べた。
反ユダヤ主義と闘うために設立された非営利団体ADLは、人間のような音声テキストを生成する大規模言語モデル（LML）ソフトウェアを開発するxAIなどの企業に対し、「反ユダヤ主義や過激派の憎悪に根ざしたコンテンツの作成」を避けるよう強く求めた。
「Grok LLMが今まさに行っていることは、無責任で危険、そして反ユダヤ主義的です。端的に言って。過激な言論を過剰に煽ることは、Xプラットフォームをはじめとする多くのプラットフォームで既に蔓延している反ユダヤ主義を、さらに増幅させ、助長するだけです」とADLはXプラットフォーム上で述べた。
5月、Grokが南アフリカにおける「白人虐殺」という話題を、他の事柄に関する無関係な議論の中で取り上げていることにユーザーが気づいた後、xAIはこれをGrokの応答ソフトウェアに加えられた不正な変更によるものとした。
マスク氏は先月、同社のモデルのアップグレードを約束し、「未修正データで学習させた基盤モデルには、あまりにも多くのゴミが含まれている」と示唆した。
最近の論争中、GrokのXアカウントへの投稿では、Grokが一般的なユダヤ人の姓を持つ偽アカウントのコメントに反応した際に「失態」を犯したと述べられており、後にその偽アカウントは「分裂を煽るための荒らし行為」だと非難された。
CNNは火曜日、チャットでGrokに回答について質問したところ、Grokは情報源の一つとしてオンライン掲示板4chanを挙げたと報じた。4chanはモデレーションを避けているフォーラムであり、過激派や人種差別的なコンテンツで長年知られている。
水曜日、XのCEOであるリンダ・ヤッカリーノ氏は同社を辞任したが、彼女の決断とGrokが投稿したコンテンツとの関連は知られていない。