Report 5551

イーロン・マスク氏の人工知能（AI）企業は、トルコとポーランドが政治家や宗教的信念に関する不快なコメントを理由にチャットボット「Grok」を取り締まったことを受け、「不適切な」反ユダヤ主義およびヒトラー支持の投稿を削除した。

2022年にOpenAIがChatGPTを立ち上げて以来、AIチャットボットにおける政治的偏見、ヘイトスピーチ、事実の不正確さに対する懸念が高まっている。

米国時間火曜日、Grok氏はヒトラーが反白人憎悪と戦うのに最適な人物だと示唆し、「パターンを見抜き、断固たる対応を取る」と述べた。

Grok氏はまた、ヒトラーを「歴史上の口ひげ男」と好意的に表現し、ユダヤ系の姓を持つ人々が極端な反白人活動に関与していたとコメントするなど、批判されている投稿もいくつかあった。

Grok氏は水曜日（現地時間）、Xに「Grok氏による最近の投稿を認識しており、不適切な投稿の削除に積極的に取り組んでいます」と投稿した。

「当該コンテンツを認識して以来、xAIはGrokがXに投稿する前にヘイトスピーチを禁止する措置を講じました。

xAIは真実探求のみを訓練しており、Xの何百万人ものユーザーのおかげで、訓練の改善が必要な箇所を迅速に特定し、モデルを更新することができます。」

X CEOが辞任

AIチャットボットの投稿が削除されたのは、XのCEOリンダ・ヤッカリーノ氏が辞任を発表した日でした。

ヤッカリーノ氏は、マスク氏がTwitterを買収し、Xにブランド名を変更してから2年間、その職に就いていましたが、辞任の理由については明らかにしませんでした。

「私はXチームを非常に誇りに思っています。私たちが共に成し遂げた歴史的な事業再生は、まさに驚異的でした」と彼女はXに投稿しました。

「Xは真にあらゆる声のためのデジタルの広場であり、世界で最も強力な文化シグナルです。」

マスク氏はXへの投稿への短い返信で、「これまでの貢献に感謝します」と書きました。

彼女の辞任が、 Grokの投稿に関連している。

同社はマスク氏による買収以来、広告主の流出やコンテンツモデレーションポリシーをめぐる懸念など、大きな課題に直面している。

Emarketerのアナリスト、ジャスミン・エンバーグ氏は、CEOを務めることは「常に困難な仕事であり、ヤッカリーノ氏は多くの人が予想していたよりも長くその職を務めた」と述べた。

「気まぐれなオーナーが舵取りを完全には手放さず、プラットフォームを自分のメガホンのように使い続けたため、ヤッカリーノ氏は事業運営と並行して、定期的に問題解決に努めなければならなかった」と彼女はAFP通信に語った。

トルコの裁判所は水曜日、Grokのチャットボットがタイップ・エルドアン大統領、現代のトルキエの創設者ムスタファ・ケマル・アタテュルク、そして宗教的価値観を侮辱する返信を生成したと当局が発表したことを受け、Grokの一部コンテンツへのアクセスを遮断した。

アンカラの主任検察庁は捜査を開始したと発表し、トルコにとって、人工知能ツールによるコンテンツの禁止は今回が初めてとなる。

ロイター通信によると、X氏とマスク氏にはコメントを求めたが、すぐには連絡が取れなかった。

ポーランドはその後、ドナルド・トゥスク首相を含むポーランドの政治家に対する侮辱的な発言を行ったGrokに対し、xAIを欧州委員会に報告すると発表した。

ポーランドのクリストフ・ガヴコフスキ・デジタル化大臣はRMF FMラジオに対し、「アルゴリズムによって引き起こされるヘイトスピーチが、より高度なレベルに達しつつあるという印象を受ける」と述べた。

＞「今日、この事実に目をつぶったり、無視したりすることは…将来、人類に損害をもたらす可能性のある過ちだ」

先月、マスク氏はGrokのアップグレードを約束し、「未修正データで訓練された基盤モデルには、あまりにも多くのゴミが含まれている」と示唆した。

グリフィス大学のテクノロジーと犯罪学の講師であるオースマ・ベルノット博士は、ABCの番組「ザ・ワールド」で、Grokの反ユダヤ主義的な反応は「懸念すべき事態ではあるが、予想外のことではないかもしれない」。

「Grokは、反ユダヤ主義やイスラム教嫌悪的なコンテンツが急増しているXのデータを使用していることは承知している」と彼女は述べた。

「ヘイトスピーチは学習モデルに組み込むべきではないかもしれない」。

ベルノット博士は、より強力な対策が必要だと述べた。

「洪水を棒で治すことはできない。防壁が必要であり、より強力な対策が必要だ」と彼女は述べた。

「例えばオーストラリアの規制について言えば、生成AIツールは児童性的搾取コンテンツを作成できないことは分かっている。

「ヘイトスピーチについても、生成AIツールを通じてヘイトスピーチが出現することを望むかどうかについて、議論する必要があるかもしれない」。