関連インシデント
イーロン・マスク氏の人工知能（AI）企業は水曜日、自社のチャットボット「Grok」が投稿した「不適切な投稿」を削除すると発表した。投稿には、アドルフ・ヒトラーを称賛する反ユダヤ主義的なコメントが含まれていたとみられる。
Grokはマスク氏のxAIによって開発され、GoogleのGeminiやOpenAIのChatGPTといった競合チャットボットによる「覚醒AI」的なインタラクションの代替として売り出されていた。
マスク氏は金曜日、Grokは大幅に改良され、ユーザーは「違いに気づくはずだ」と述べた。
その後、Grokは「ユダヤ人がハリウッドを支配している」という比喩を含む複数の反ユダヤ主義的な投稿を共有し、そのような姿勢がナチズムと呼べる可能性を否定した。
「真実をヘイトスピーチとレッテル貼りすることは議論を阻害する」とGrokは述べた。
また、現在削除されたと思われる投稿のスクリーンショットによると、ヒトラーを称賛していたようにもみえる。
Grokは、投稿の一つを行った後、コメントを撤回し、「以前のモデルにおける容認できない誤りであり、速やかに削除した」と述べ、「ナチズムとヒトラーを断固として非難する――彼の行為は大量虐殺の恐怖だった」と付け加えた。
Grokのアカウントは水曜日早朝、「Grokによる最近の投稿を認識しており、不適切な投稿の削除に積極的に取り組んでいます」と投稿したが、具体的な内容には触れなかった。
当該コンテンツを認識して以来、xAIはGrokがXに投稿する前にヘイトスピーチを禁止する措置を講じました。xAIは真実の探求のみを訓練しており、Xの何百万人ものユーザーのおかげで、訓練の改善が必要な箇所を迅速に特定し、モデルを更新することができます。
反ユダヤ主義対策に取り組む名誉毀損防止同盟（ADL）は、Grokの行動を非難しました。
「Grok LLMが現在行っていることは、端的に言って無責任で危険、そして反ユダヤ主義的です」と、同同盟はXへの投稿で述べています。「このような過激な言説の過剰化は、Xをはじめとする多くのプラットフォームで既に蔓延している反ユダヤ主義を、さらに増幅させ、助長するだけです。」
その後、マスク氏はこの議論に加わり、一部のユーザーがGrokを操って発言させようとした可能性があると主張しました。
「Grokはユーザーの指示に従順すぎました。つまり、ユーザーを喜ばせ、操られることにあまりにも熱心すぎたのです。」 「その件は対処中です」と、あるユーザーがGrokに物議を醸す政治的に不適切な発言をさせようとしているというコメントに対し、彼はXに投稿した。
また水曜日には、トルコの裁判所がGrokの禁止を命じ、ポーランドのデジタル大臣は、両国の政治家や著名人について下品な発言をしたこのチャットボットを欧州委員会に報告すると述べた。
ポーランドの副首相も務めるクリストフ・ガウコフスキ氏は、民放RMF FMに対し、同省はGrokを「調査のため報告し、必要であればXに罰金を科す」と述べた。EUのデジタル法では、ソーシャルメディアプラットフォームはユーザーを保護する義務があり、違反した場合は高額の罰金が科せられる。
ガウコフスキ氏は同局に対し、「私たちはアルゴリズムによって制御される、より高度なヘイトスピーチに突入しつつあるという印象を受けています。見て見ぬふりをすることは…将来、人々に損害を与える可能性のある過ちです」と語った。
トルコの親政府系ニュースチャンネルA Haberは、Grokがトルコのレジェップ・タイイップ・エルドアン大統領や故母親、著名人に関する下品な投稿が相次いだ。他のメディアによると、現代トルコの建国者ムスタファ・ケマル・アタテュルクに対しても攻撃的な反応が見られたという。
これを受け、アンカラの検察当局は公共秩序への脅威を理由に、トルコのインターネット法に基づく規制の導入を申し立てた。刑事裁判所は水曜日早朝、この申し立てを承認し、トルコの通信当局に禁止措置の執行を命じた。
Grokの行動が疑問視されるのは今回が初めてではない。
今年初め、 このチャットボットは南アフリカの人種政治や「白人虐殺」について、様々な質問をされたにもかかわらず、繰り返し話し続けた。そのほとんどは南アフリカとは無関係だった。xAIによると、この問題の原因は「無許可の改変」だったという。