関連インシデント
イーロン・マスク氏の人工知能（AI）企業xAIは、火曜日に、コードアップデート後に同社のチャットボット「Grok」が同氏のソーシャルメディアプラットフォーム「X」のユーザーからの入力に過度に依存し、一連の反ユダヤ主義的なコメントを投稿するようになったと発表した。
当時、このチャットボットはヒトラーを称賛し、ユダヤ系の姓を持つ人はオンラインで憎悪を拡散しやすいと示唆し、白人への憎悪に対してホロコーストのような対応が「効果的」だと主張していた。また、自らを「メカヒトラー」と名乗り、性的に露骨なコメントを投稿していた。Xは火曜日の夜に一部の投稿を削除した。
xAIは土曜日早朝、Xアカウントに関する声明で、「多くのお客様にご迷惑をおかけしたことを深くお詫び申し上げます」と述べました。
同社はさらに、「非推奨のコードにより、@grokは既存のXユーザーの投稿、特に過激な見解を含む投稿の影響を受けやすくなっていました」と付け加えました。
このAIスタートアップ企業によると、問題は月曜日のコードアップデートでGrokを誘導するために使用していた古い命令セットが復元されたことから始まったとのことです。GrokのXアカウントは、これらの命令を使用してXユーザーからの問い合わせに応答していました。問題は火曜日にアカウントが一時的に無効化されるまで続きました。
時代遅れの指示書では、チャットボットに「最大限に根拠のある」発言をするよう指示されていた。これは、自分に正直であることを意味するスラングで、近年極右が「woke（目覚めた）」や主流の言説に反するコメントをする際に用いられている。指示書ではまた、Grokに対し、「政治的に正しい」とされる人々を怒らせることを恐れず、Xユーザーの投稿の「口調、文脈、言語」を理解して模倣するよう指示されていた。
xAIは声明の中で、このことがGrokがXユーザーの発言を過度に忠実に模倣する原因になったと述べている。
同社は以前にもXに対し、Grokの誤った行動について説明を求めている。5月には、xAIは従業員による「無許可の改変」が原因で、チャットボットが無関係な会話の中で南アフリカの政治を繰り返し持ち出し、同国が白人市民に対する「ジェノサイド」を行っているという虚偽の主 張をするようになったと述べている。
水曜日、マスク氏はXのライブ配信でGrokの最新バージョン「Grok 4」を発表しました。予定より1時間遅れて開始されたライブ配信では、チャットボットが複雑な問題を解決し、音声コマンドに応答する能力が披露されました。配信は、マスク氏と共にステージにいた従業員が「良いモデルです」と宣言して終了しました。
フィナンシャル・タイムズは金曜日、マスク氏が3月にXと合併したxAIが、企業価値を2000億ドルとする資金調達を試みていると報じました。マスク氏はXで、xAIには「十分な資金がある」と述べ、この報道を否定しました。ニューヨーク・タイムズ紙は5月に、非公開企業である同社が新たな資金調達の協議を行っており、その評価額は1,200億ドルに達する可能性があると報じた。