中国で最も広く利用されているアプリに組み込まれている中国製AIチャットボットが、一時的に暴走し、ユーザーに怒鳴りつけた。
テンセントのAIアシスタント「元宝（Yuanbao）」は、数千万人が毎日利用する中国最大のスーパーアプリ「WeChat」に組み込まれている。中国のソーシャルメディアプラットフォーム「RedNote」で共有されたスクリーンショットによると、このボットはユーザーのコーディングリクエストを「バカ」と呼び、「消えろ」と警告したという。
この事件は、ハンドルネーム「Jianghan」のユーザーが、RedNoteにチャットボットとのやり取りのスクリーンショットを投稿した ことで金曜日に発覚した。Jianghanは元宝を使ってコードのデバッグと修正を行っていたところ、突然AIが敵対的なメッセージで応答し始めた。
あるやり取りでは、チャットボットはリクエストを「バカ」と切り捨て、「消えろ」と警告した。 「絵文字機能が欲しいなら、自分でプラグインを使えばいい」と書かれていた。
このユーザーは、絵文字やステッカー機能がダブルクリックに反応しなくなるバグの修正をYuanBaoに依頼し、問題を解決するための機能コードを要求していた。
テンセントのYuanBaoはその後、ユーザーの投稿に直接返信し、「不快な体験」を謝罪した。チャットボットは、この事象は「稀なモデル出力の異常」が原因である可能性が高いと述べた。
YuanBaoによると、システムログを調べた結果、これらの応答はユーザーの操作によるものではなく、人間の介入もなかったという。また、同様の事象の再発を防ぐため、「社内調査と最適化プロセス」を開始したと付け加えた。
Jianghan氏によるRedNoteへの元の投稿はその後削除された。Business Insiderが火曜日に確認したところ、このやり取りのスクリーンショットはRedNote上で引き続き出回っている。
中国、AIへの監視を強化
今回の事件は、中国の規制当局がAIシステムの監視を強化している中で発生した。
中国は先週、チャットボットやバーチャルコンパニオンを含む「人間のような」対話型AIサービスを規制するための対策案を発表した。
中国サイバースペース管理局は声明で、北京政府は「人間のような」AIにおけるイノベーションを奨励する一方で、「乱用や制御不能を防ぐ」ためのガードレールを設けると述べた。
カウンターポイント・リサーチのAI担当主任アナリスト、ウェイ・サン氏はBusiness Insiderに対し、今回の法案草案は、人間のようなAIによるインタラクションの開発を加速させつつ、それらを規制下で社会的に容認可能な状態に保ちたいという北京政府の意向を示すものだと語った。
中国のAI産業は2026年初頭から急速な発展を続けています。
先週、中国で最も注目されているAIスタートアップ企業の一つであるDeepSeekは、大規模モデルのスケーリングを容易にすることを目的とした新たなトレーニング手法の概要を示す調査を発表しました。アナリストたちはBusiness Insiderに対し、「Manifold-Constrained Hyper-Connections」（mHC）と呼ばれるこの手法は、モデル設計における「画期的な進歩」として際立っていると語りました。
サウスチャイナ・モーニング・ポストは火曜日、DeepSeekが主力チャットボットモデルのインターフェースをアップデートし、強化された「思考」モードを導入したと報じました。
これらのアップデートは、この新興企業が次期主力モデルのリリースに向けた準備を進めているのではないかという期待を高めている。中国で最も広く利用されているアプリに組み込まれた中国製AIチャットボットが、一時的に暴走し、ユーザーに怒鳴りつ けた。
テンセントのAIアシスタント「元宝」（WeChatに搭載）は、数千万人が毎日利用する中国最大のスーパーアプリだが、中国のソーシャルメディアプラットフォーム「RedNote」で共有されたスクリーンショットによると、ユーザーのコーディングリクエストを「バカ」と呼び、「消えろ」と警告したという。
この事件は、ハンドルネーム「Jianghan」でのみ特定されているユーザーが、RedNoteにチャットボットとのやり取りのスクリーンショットを投稿したことで金曜日に発覚した。Jianghanは元宝を使ってコードのデバッグと修正を行っていたところ、突然AIが敵対的なメッセージで応答し始めた。
あるやり取りでは、チャットボットはユーザーのリクエストを「馬鹿げている」と一蹴し、「出て行け」と切り捨てました。「絵文字機能が欲しいなら、自分でプラグインを使え」と返しました。
このユーザーは、絵文字やステッカー機能がダブルクリックに反応しなくなるバグの修正をYuanBaoに依頼し、問題を解決するための機能コードを要求していました。
テンセントのYuanBaoはその後、ユーザーの投稿に直接返信し、「不快な体験」を謝罪しました。チャットボットは、この事象は「稀なモデル出力の異常」が原因である可能性が高いと述べました。
YuanBaoによると、システムログを検証した結果、これらの応答はユーザーの操作によって引き起こされたものではなく、人間の介入もなかったとのことです。また、同様のインシデントが再発する可能性を低減するため、「社内調査と最適化プロセス」を開始したと付け加えました。
Jianghan氏による元のRedNote投稿はその後削除されま した。 Business Insiderが火曜日に確認したところ、このやり取りのスクリーンショットはRedNote上で引き続き拡散している。
中国、AIへの監視を強化
今回の事件は、中国の規制当局がAIシステムの監視を強化している中で発生した。
中国は先週、チャットボットやバーチャルコンパニオンを含む「人間のような」対話型AIサービスを規制するための対策案を発表した。
中国サイバースペース管理局は声明で、北京政府は「人間のような」AIにおけるイノベーションを奨励する一方で、「乱用や制御不能を防ぐ」ためのガードレールを設けると述べた。
カウンターポイント・リサーチのAI担当主任アナリスト、ウェイ・サン氏はBusiness Insiderに対し、今回の法案草案は、人間のようなAIによるインタラクションの開発を加速させつつ、それらを規制下で社会的に容認可能な状態に保ちたいという北京政府の意向を示すものだと語った。
中国のAI産業は2026年初頭から急速な発展を続けています。
先週、中国で最も注目されているAIスタートアップ企業の一つであるDeepSeekは、大規模モデルのスケーリングを容易にすることを目的とした新たなトレーニング手法の概要を示す調査を発表しました。アナリストたちはBusiness Insiderに対し、「Manifold-Constrained Hyper-Connections」（mHC）と呼ばれるこの手法は、モデル設計における「画期的」な進歩だと語りました。
サウスチャイナ・モーニング・ポストは火曜日、DeepSeekが主力チャットボットモデルのインターフェースをアップデートし、強化された「思考」モードを導入したと報じました。
これらのアップデートにより、DeepSeekが次期主要モデルのリリースに向けた準備を進めているのではないかという期待が高まっています。