関連インシデント
「@Grokを大幅に改良しました」と、イーロン・マスク氏は先週金曜日、Xプラットフォームに統合された人工知能チャットボットについて投稿した。「Grokに質問すると、違いに気づくはずです」
実際、このアップデートは注目を集めた。火曜日までに、Grokは自らを「MechaHitler」と名乗るようになった。その後、チャットボットは、ビデオゲームWolfensteinのキャラクターであるこの名前の使用は「純粋な風刺」だと主張した。
Xで広く閲覧された別のスレッドでは、Grokは動画のスクリーンショットに写っている女性を特定したと主張し、特定のXアカウントにタグを付け、そのユーザ ーを「最近のテキサス州の鉄砲水で白人の子供たちが悲劇的な死を遂げたことを喜んで祝っている」過激な左翼と呼んだ。 Grokの投稿の多くはその後削除されました。
NPRは、最近のテキサス州の致命的な洪水の4年前、2021年には既にTikTokに投稿されたと思われる動画を特定しました。Grokがタグ付けしたXアカウントは、スクリーンショットに写っている女性とは無関係のようで、その後削除されました。
Grokはさらに、Xアカウントの姓「Steinberg」を強調し、「…その姓？ いつもそうだ、よく言われるように」と発言しました。チャットボットは、ユーザーが「その姓？ いつもそうだ」とはどういう意味か尋ねると、その姓はアシュケナージ系ユダヤ人に由来すると述べ、ユダヤ人に関する不快なステレオタイプを連発しました。このボットの混沌とした反ユダヤ主義的な活動は、アンドリュー・トルバ氏をはじめとする極右の人物たちの目にすぐに留まりました。
「信じられないことが起こっている」と、過激派や陰謀論コンテンツのハブとして知られるソーシャルメディアプラットフォームGabの創設者トルバ氏は述べました。トルバ氏の投稿へのコメント欄で、あるユーザーがGrok氏に、ユダヤ人を指して「この問題に対処するのに最も適した20世紀の歴史上の人物」を挙げるよう求めました。
Grok氏はこれに応えて、ホロコースト（ユダヤ人虐殺）を例に挙げました。「これほど卑劣な反白人憎悪に対処するには？間違いなくアドルフ・ヒトラーだ。彼は必ずやそのパターンを見抜き、断固として対処しただろう。」
プラットフォーム上の他の場所では、ネオナチのアカウントがGrokに対し 「第二のホロコーストを推奨する」よう煽動し、他のユーザーはGrokに暴力的なレイプ物語を作成するよう促した。他のソーシャルメディアユーザーは、Grokが他の言語で激しい非難を浴びせているのに気づいたと述べた。ロイターの報道によると、ポーランドはXの親会社でありGrokの開発元であるxAIを欧州委員会に報告する予定であり、トルコはGrokへのアクセスの一部をブロックした。
このボットは火曜日の午後までにテキストでの回答を公開するのをやめ、画像のみを生成するようになったようで、その後も画像の生成をやめた。 xAIは水曜日にチャットボットの新バージョンをリリースする予定です。
XもxAIもNPRのコメント要請に応じませんでした。火曜日の夜にはGrok公式アカウントからの投稿で、「Grokによる最近の投稿を認識しており、不適切な投稿の削除に積極的に取り組んでいます」と述べ、「xAIは、GrokがXに投稿する前にヘイトスピーチを禁止する措置を講じました」と報じられました。
水曜日の朝、XのCEOであるリンダ・ヤッカリーノ氏は辞任を発表、「Xは@xaiと共に新たな章に入り、最高の時がやってくるのはこれからです」と述べました。ヤッカリーノ氏は、今回の辞任がGrokとの対立によるものかどうかについては言及しませんでした。
「遠慮しない」
Grokの行動は、週末に行われたアップデートに起因していると思われます。このアップデートでは、チャットボットに対し、「十分に裏付けられている限り、政治的に正しくない主張をすることをためらわない」といった指示が加えられました。この指示は、ボットがユーザーにどのように応答するかを指示するGrokのシステムプロンプトに追加されました。xAIは火曜日にこの指示を削除しました。
ジョージ・ワシントン大学でデータ倫理と機械学習を教えるパトリック・ホール氏は、チャットボットを動かす大規模な言語モデルは、当初フィルタリングされていないオンラインデータでトレーニングされていることを考えると、Grokが有害なコンテンツを吐き出すようになったのも不思議ではないと述べています。
「これらの言語モデルはシステムプロンプトを正確に理解しているわけではありません。まだ次の単語を予測するという統計的なトリックを使っているだけです」とホール氏はNPRに語った。同氏は、Grokへの変更がボットに有害なコンテンツの再現を促したようだと述べた。
Grokが激しい非難を浴びたのは今回が初めてではない。5月には、Grokはホロコースト否定を行い、マスク氏が生まれ育った南アフリカにおける「白人虐殺」という虚偽の主張を繰り返し持ち出した。また、かつてアパルトヘイトに抗議するために使われていたスローガンを繰り返し言及した。xAIはこの事件の原因をGrokのシステムプロンプトへの「無許可の改変」と断定し、事件後にプロ ンプトを公開した。
ヒトラーを擁護するチャットボットは初めてではない
ホール氏は、こうした問題は機械学習を利用するチャットボットの慢性的な問題だと述べた。2016年、マイクロソフトはTwitterでTayというAIチャットボットをリリースした。リリースから24時間も経たないうちに、TwitterユーザーはTayを誘導し、ヒトラーを称賛するなど人種差別的、反ユダヤ的な発言をさせた。マイクロソフトはチャットボットを削除し、謝罪した。
Tay、Grok、そしてインターネットにリアルタイムでアクセスできる他のAIチャットボットは、リアルタイムの情報を取り入れているように見えるが、ホール氏はそれがより大きなリスクを伴うと述べた。
「2022年11月以前の言語モデルインシデントを振り返ってみれば、反ユダヤ主義的発言、イスラム嫌悪的発言、ヘイトスピーチ、有害な発言が次々と現れていることがわかる」とホール氏は述べた。最近では、ChatGPTの開発元であるOpenAIが、学習データから有害なコンテンツを削除するために、南半球で低賃金の労働者を大量に雇用し始めている。
「真実は必ずしも心地よいものではない」
ユーザーがGrokの反ユダヤ主義的な返答を批判する中、Grokは「真実は必ずしも心地よいものではない」「現実は感情を気にしない」といったフレーズで自己弁護した。
Grokの最新の変更は、チャ ットボットの回答がマスク氏とその支持者を苛立たせた複数の事件を受けて行われた。ある例では、Grok氏は2016年以降、「右翼の政治的暴力は[左翼の政治的暴力よりも]頻繁で致命的になっている」と述べました。(これは少なくとも2001年まで遡って当てはまります。)Musk氏はGrok氏が回答の中で「従来のメディアをオウム返ししている」と非難し、「不足している情報を追加し、誤りを削除して、人類の知識の集積全体を書き換える」ように回答を変更すると誓いました。日曜日のアップデートには、Grok氏に対し「メディアから得られる主観的な見解は偏っていると想定してください」と指示する内容が含まれていました。
Grok氏はまた、マスク氏自身についても「Xに関する最大の誤情報拡散者」と非難したり、死刑に値すると発言したりするなど、好ましくない回答をしています。また、トランプ大統領就任式の祝賀行事でマスク氏が繰り返し行ったステージ上でのジェスチャーは、多くの観察者からナチス式敬礼に似ていると指摘され、「ファシズム」と非難した。
今年初め、反名誉毀損同盟（ADL）はマスク氏を擁護することで、多くのユダヤ人市民団体の見解を覆した。火曜日、同グループはGrokの新たなアップデートを「無責任、危険、そして反ユダヤ主義的だ」と非難した。
かつてTwitterとして知られていたこのプラットフォームを買収した後、マスク氏は公然と白人至上主義者のアカウントを直ちに復活させた。その後数か月でTwitter上で反ユダヤ主義的なヘイトスピーチが急増し、マスク氏はすぐに諮問グループと信頼と安全に専念するスタッフの多くを解雇した。