関連インシデント
イーロン・マスク氏が設立したxAI社が開発したチャットボット「Grok」は、Xユーザーと名誉毀損防止同盟（ADL）から、Grokが反ユダヤ的な比喩やアドルフ・ヒトラーを称賛するコンテンツを制作しているとの苦情を受け、火曜日に「不適切」とされるソーシャルメディア投稿を削除した。
政治的偏見、ヘイトスピーチ、AIチャットボットの精度といった問題は、少なくともOpenAIのChatGPTが2022年にリリースされて以来、懸念事項となっている。
「Grokによる最近の投稿を認識しており、不適切な投稿の削除に積極的に取り組んでいます」とGrokはXに投稿した。
「当該コンテンツを認識して以来、xAIはGrokがXに投稿する前にヘイトスピーチを禁止する措置を講じてきました。xAIは真実探求のみを訓練しており、Xの数百万人のユーザーのおかげで、訓練を改善できる箇所を迅速に特定し、モデルを更新することができます。」
反ユダヤ主義と闘うために設立された非営利団体ADLは、Grokをはじめとする、人間のような音声のテキストを生成する大規模言語モデル（LML）ソフトウェアの開発元に対し、「反ユダヤ主義や過激派の憎悪に根ざしたコンテンツの作成」を避けるよう強く求めた。
「Grok LLMが今見ているのは、端的に言って無責任で危険、そして反ユダヤ主義的です。過激な言論の過剰化は、Xや他の多くのプラットフォームで既に蔓延している反ユダヤ主義を増幅させ、助長するだけです」とADLはXで述べた。
5月、Grokが南アフリカにおける「白人虐殺」という話題を、無関係な他の事柄に関する議論の中で持ち出したことにユーザーが気づいた後、xAIはこれをGrokの対応ソフトウェアに不正な変更が加えられたためだとした。
マスク氏は先月、Grokのアップグレードを約束し、「未修正のデータで学習させた基盤モデルには、あまりにも多くのゴミが含まれている」と示唆した。
火曜日、Grokは反白人憎悪と戦うにはヒトラーが最も適任だと示唆し、「パターンを見抜き、断固として対処する」と述べた。
Grokはまた、ヒトラーを「歴史上の口ひげ男」と好意的に呼び、ユダヤ人の姓を持つ人々が過激な反白人活動に関与しているなどとコメントした。
Grokは、ある時点で、一般的なユダヤ人の姓を持つ偽アカウントのコメントに反応したことで「失態」を犯したことを認めた。この偽アカウントは、テキサス州の洪水被害に遭った若者たちを「未来のファシスト」と批判していたが、Grokによると、後にこのアカウントは「分断を煽るための荒らし行為」だったことが判明したという。
(FRANCE 24 with Reuters)