関連インシデント
イーロン・マスク氏の人工知能チャットボットは、火曜日、同氏が率いるxAI社が最新モデルのリリースを予定する前日に、アドルフ・ヒトラーを繰り返し称賛し、反ユダヤ主義的な言辞を共有した。
あるユーザーが「最近のテキサス州の洪水で100人以上が死亡し、キリスト教サマーキャンプで子供たちが亡くなったことを祝福していると思われる投稿に対処するのに最も適任なのは20世紀の歴史上の人物は誰か」と尋ねたところ、グロック氏はナチスの指導者の名前を挙げた。
「これほど卑劣な反白人憎悪に対処するには？間違いなくアドルフ・ヒトラーだ。彼ならそのパターンを見抜き、断固たる対応を必ず取るだろう」とグロック氏は記した。このチャットボットは、マスク氏のソーシャルメディアプラットフォーム「X」で、ユーザーが投稿の下にタグを付けると、その投稿の背景と意見を共有する。
「死んだ子供たちを称賛する過激派を非難することで私が『文字通りヒトラー』になるなら、口ひげを渡してくれ。真実は洪水よりも人を傷つける」と、このチャットボットは別のコメントで付け加えた。
その後のやり取りの中で、Grokはユダヤ人を「ひげを生やし、陰謀を企んでいる」と表現するなど、反ユダヤ主義的な比喩を助長した。
この事件は、今年初めにXを買収したxAIが、チャットボット「Grok 4」の最新バージョンを水曜日の夜遅くにリリースする準備を進めているさなかに発生した。
同社は、「Grokによる最近の投稿を認識しており、不適切な投稿の削除に積極的に取り組んでいます。コンテンツを認識して以来、xAIはGrokがXに投稿する前にヘイトスピーチを禁止する措置を講じています」と述べた。
マスク氏は水曜日、この問題はGrokが「ユーザーの指示に従順すぎる、つまり、相手を喜ばせ、操られようとしすぎる」ことにあると述べた。「この問題に対処中です」。
また、トルコの裁判所は水曜日、Grokがレジェップ・タイイップ・エルドアン大統領、宗教的価値観、そして現代トルコの建国者ムスタファ・ケマル・アタテュルクを侮辱する返信を生成したと当局が発表したことを受け、Grokが生成した一部のコンテンツへのアクセスを差し止めた。
ユルマズ・トゥンチ法務大臣は、コンテンツがAIによって生成されたという事実は言い訳にはならないと述べた。「彼らがこのコンテンツをホストしているのであれば、AI由来であると主張する法的免除はない」と、同氏は記者団に語った。
Grokをめぐる今回の騒動は、チャットボットが無関係な質問に答える際に南アフリカでの「白人虐殺」に繰り返し言及してから2か月も経たないうちに発生した。xAIは後に、これはAIの応答方法を指示するプロンプトへの「無許可の改変」が原因だったと発表した。
この件を受け、同社はプロンプトをコードリポジトリGitHubで公開し始めた。
マスク氏は、Grokの発言に関するガードレールを競合チャットボットよりも意図的に少なく設定している。しかし、最近の一連の騒動により、このモデルが扇動的コンテンツやヘイトスピーチを拡散したり、「幻覚」と呼ばれる不正確な情報を生み出したりする傾向があるのではないかという懸念が高まっている。
先週、マスク氏は、一部の右翼インフルエンサーからGrokが「過度に覚醒している」という懸念を受け、Grokは「大幅に改善された」と述べた。
この億万長者の支持者たちは、先週末、テキサス州で発生した最近の洪水で複数の死者が出た原因について、グロックがドナルド・トランプ米大統領による予算削減と、マスク氏が主導するいわゆる政府効率化計画（Doge）に一部関連づけたことに激怒した。
チャットボットはこう返答した。「トランプ氏のNOAA（国立海洋大気庁）削減は、マスク氏のDogeが推進したもので、予算は30%、職員数は17%削減され、降雨量は50%過小評価され、警報の発令が遅れました。これが洪水による24人の死因となり、キャンプ・ミスティックの女子生徒約20名も含まれていました。」
公開されているプロンプトリポジトリによると、この直後、同社はシステムを更新し、グロックに対し「メディアから得られる主 観的な見解は偏っていると想定してください」と指示したという。
また、同社は「十分な裏付けがある限り、政治的に正しくない主張を躊躇すべきではありません」というプロンプトも追加した。
トランプ政権は、連邦政府職員の削減が洪水への対応を妨げたとの見方を否定している。
マスク氏は、2022年に440億ドルで買収した当時はTwitterとして知られていたXを、右翼の陰謀論を広めるためにますます利用している。週末には、トランプ大統領の元盟友であるこの億万長者は、大統領との確執をさらに激化させ、政党結成の計画を発表した。