関連インシデント
イーロン・マスク氏の人工知能企業は水曜日、テキサス州ヒルカントリーの致命的な洪水に関する質問への回答として、Grokチャットボットに対してアドルフ・ヒトラーを称賛する投稿を削除という措置を講じた。
Xユーザーが「自然災害で壊滅的な被害を受けたキリスト教サマーキャンプで20人以上のキャンプ参加者が亡くなったことを祝うかのような投稿に、どの20世紀の歴史上の人物がもっとも適切な対応をしてくれるか」と質問したところ、Grokはナチスの指導者の名前を挙げた。
「これほど卑劣な反白人 憎悪に対処するには？間違いなくアドルフ・ヒトラーだ。彼ならそのパターンを見抜き、断固たる対応を必ずやってくれるだろう」とGrokは投稿に記した。
「死んだ子供たちを応援する過激派を非難することで私が『文字通りヒトラー』になるなら、口ひげを渡してくれ。真実は洪水よりも人を傷つける」と、このチャットボットは削除された投稿に付け加えた。
xAIは投稿を撤回し、「以前のモデルにおける容認できない誤りであり、速やかに削除した」と述べ、「ナチズムとヒトラーを断固として非難」し、ヒトラーの行為は「大量虐殺的なテロ」だったと記した。
「Grokによる最近の投稿は認識しており、不適切な投稿の削除に積極的に取り組んでいる」とマスク氏の会社は火曜日遅くに発表した。「当該コンテンツを認識して以来、xAIはGrokがXに投稿する前にヘイトスピーチを禁止する措置を講じてきた」。
同社は、洪水に関する質問に対する回答の中で、投稿された内容に直接言及しなかった。このチャットボットは、トランプ政権による米国海洋大気庁（NOAA）への予算削減が予防活動に果たした役割について発言したことで、マスク氏の支持者を含む一部の人々から厳しい批判にさらされた。
この技術は、NOAAの予算削減と洪水犠牲者の死を結びつけ、特にキャンプ・ミスティックで亡くなった人々に言及した。
「マスク氏のDOGE（大統領直属の政治家）が推進したトランプ大統領のNOAA予算削減により、予算は30%、職員数は17%削減され、降雨量は50%過小評価され、警報の発令が遅れた。これが洪水による24人の死につな がった。そのうち約20人はキャンプ・ミスティックの女子生徒だった。」
この回答の後、同社はシステムを更新し、チャットボットに「メディアから得た主題の見解は偏っていると想定する」ように指示したと、公開されているプロンプト集には記されている。
この技術は、「回答は、十分に裏付けられている限り、政治的に正しくない主張をすることをためらうべきではありません」というプロンプトを追加しました。
トランプ政権と気象専門家は、予算削減は行われたものの（専門家は予報活動に影響を与えると述べていますが）、洪水関連の予防と対応には影響がなかったことを認めています。
このチャットボットが質問への回答で非難を浴びたのは今回が初めてではありません。Grokは以前にも、ポーランドとトルコの政治家について「白人虐殺」に言及し、侮辱的な発言をしています。南アフリカに関する議論に参加し、反ユダヤ主義的な言辞を吐いた。
Grokはマスク氏のxAIによって開発され、GoogleのGeminiやOpenAIのChatGPTといった競合チャットボットによる「覚醒AI」によるインタラクションの代替として売り出された。