Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
自動翻訳済み

インシデント 1043: Redditのモデレーターが、チューリッヒ大学の研究者を名乗る人物による偽造IDを使った無許可のAI研究を報告

概要:
自動翻訳済み
チューリッヒ大学に所属するとされる研究者らが、Redditのr/ChangeMyViewに、性的暴行の被害者や人種的マイノリティといったアイデンティティを捏造し、説得力を研究するために、AIが生成した未公開のコメントを投稿したと報じられています。この実験では、許可されていない人口統計プロファイリング、感情操作、そしてサブレディットおよびプラットフォームの規則違反が行われたと報じられています。研究者らは、倫理審査の再審査を受けることなく、承認されたプロトコルから逸脱したとされています。
Editor Notes: Timeline notes: Reports indicate that the unauthorized AI persuasion experiment on Reddit's r/ChangeMyView subreddit was conducted over approximately four months. Although exact start and end dates have not been confirmed, evidence suggests that the activity likely took place between late 2024 and early 2025, concluding shortly before the moderators publicly disclosed the experiment in late April 2025. The researchers reportedly made approximately 1,783 AI-generated comments during this period. The duration and scale of the operation are included here to provide additional context but remain based on external reporting and moderator disclosures.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
Alleged: Unspecified large language model developers developed an AI system deployed by University of Zurich researchers, which harmed Reddit users on r/ChangeMyView subreddit.
関与が疑われるAIシステム: Unspecified large language models

インシデントのステータス

インシデントID
1043
レポート数
6
インシデント発生日
2025-04-26
エディタ
Daniel Atherton

インシデントレポート

レポートタイムライン

+1
META: AI生成コメントを含むCMVの無許可実験
研究者らがRedditユーザーを対象に大規模な無許可のAI説得実験を秘密裏に実施Redditの秘密AI実験が倫理違反で告発される+1
公益のための倫理的かつ透明性のある研究実験の必要性
「私が今まで見た中で最悪のインターネット研究倫理違反」
META: AI生成コメントを含むCMVの無許可実験

META: AI生成コメントを含むCMVの無許可実験

reddit.com

研究者らがRedditユーザーを対象に大規模な無許可のAI説得実験を秘密裏に実施

研究者らがRedditユーザーを対象に大規模な無許可のAI説得実験を秘密裏に実施

404media.co

Redditの秘密AI実験が倫理違反で告発される

Redditの秘密AI実験が倫理違反で告発される

theweek.com

公益のための倫理的かつ透明性のある研究実験の必要性

公益のための倫理的かつ透明性のある研究実験の必要性

independenttechresearch.org

Reddit、フォーラムに秘密のAIボットを展開した「非倫理的な実験」を非難

Reddit、フォーラムに秘密のAIボットを展開した「非倫理的な実験」を非難

washingtonpost.com

「私が今まで見た中で最悪のインターネット研究倫理違反」

「私が今まで見た中で最悪のインターネット研究倫理違反」

theatlantic.com

META: AI生成コメントを含むCMVの無許可実験
reddit.com · 2025
自動翻訳済み

CMV Modチームは、チューリッヒ大学の研究者がCMVユーザーを対象に実施した無許可の実験について、CMVコミュニティにお知らせする必要があります。この実験では、AIがどのように意見を変化させるかを調査するため、AIが生成したコメントが使用されました。

CMVの規則では、未公開のAI生成コンテンツやボットをサブで使用することは許可されていません。研究者は実験前に私たちに連絡を取っておらず、もし連絡を取っていたとしても、私たちは断っていたでしょう。私たちは研究者に謝罪を求め、…

研究者らがRedditユーザーを対象に大規模な無許可のAI説得実験を秘密裏に実施
404media.co · 2025
自動翻訳済み

チューリッヒ大学を名乗る研究者チームが、大規模な「無許可」実験を実施しました。この実験では、AI 搭載ボットを r/changemyview という人気の討論サブレディットに秘密裏に導入し、物議を醸すトピックについて AI が 人々の考えを変える ことができるかどうかを調査しようとしました。

数ヶ月にわたって、これらのボットは1000件以上のコメントを投稿し、「レイプ被害者」や「ブラック・ライヴズ・マター運動に反対する黒人男性」、「家庭内暴力シェルターで働いている」人物、特定…

Redditの秘密AI実験が倫理違反で告発される
theweek.com · 2025
自動翻訳済み

Redditは4月28日、研究者グループが最も人気のあるフォーラムの一つで人工知能チャットボットを用いた秘密の実験を行ったというニュースに反応を示しました。この実験に関わった人々の行動は、人間を対象とする研究において欺瞞が正当化されることがあるのかどうかという疑問を提起しています。

AI侵入

チューリッヒ大学の匿名の研究者チームが、r/changemyview(CMV)サブレディットにおいて、Redditユーザーを対象に、数か月にわたる無許可の実験を実施しました。大規模言語モ…

公益のための倫理的かつ透明性のある研究実験の必要性
independenttechresearch.org · 2025
自動翻訳済み

4月26日、他者の視点を理解することに特化したRedditコミュニティ「r/ChangeMyView」のモデレーターは、チューリッヒ大学の研究者らがコミュニティに対し、大規模なAI実験(無許可)を実施していたことを明らかにしました。研究者らは、AIボットを用いて密かに人間になりすまし、説得実験を行っていました。

重要なのは、この実験がRedditコミュニティに通知や同意を得ることなく実施され、ボットはAIとして分類されていなかったことです。Redditユーザーは、意見形成を目…

Reddit、フォーラムに秘密のAIボットを展開した「非倫理的な実験」を非難
washingtonpost.com · 2025
自動翻訳済み

Redditは、チューリッヒ大学の研究者グループによる「不適切かつ極めて非倫理的な実験」について警鐘を鳴らしている。この実験では、人工知能が人間の意見にどのような影響を与えるかを研究するため、人気フォーラムにAIボットを秘密裏に導入していた。

changemyviewサブレディットのモデレーターは、この数ヶ月にわたって展開されていた「無許可の実験」について、先週末にグループの380万人のユーザーに警告を発出した。モデレーターらは、この研究における「開示手続きの一環」として研究…

「私が今まで見た中で最悪のインターネット研究倫理違反」
theatlantic.com · 2025
自動翻訳済み

Redditが数年前に「インターネットの中心」としてブランドイメージを刷新した際、そのスローガンはサイトの有機的な性質を想起させるものでした。アルゴリズムが支配するソーシャルメディアの時代に、Redditは、賛成票や反対票という形で感情を表現するコミュニティによって運営されていること、つまり生身の人間によって形作られていることを誇りとしていました。

そこで今週初め、ある人気サブレディットのメンバーが、AIが書いたコメントを人間の思考として偽装する覆面研究者にコミュニティが侵入…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

That AI Image Generator Is Spitting Out Some Awfully Racist Stuff

Jun 2022 · 4 レポート
YouTube's AI Mistakenly Banned Chess Channel over Chess Language Misinterpretation

YouTube algorithm accidentally blocks 'black v white' CHESS strategy

Jun 2020 · 6 レポート
TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

TikTok Is Filled With Pro-Eating Disorder Content, Despite Its Own Rules

Jul 2019 · 3 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

That AI Image Generator Is Spitting Out Some Awfully Racist Stuff

Jun 2022 · 4 レポート
YouTube's AI Mistakenly Banned Chess Channel over Chess Language Misinterpretation

YouTube algorithm accidentally blocks 'black v white' CHESS strategy

Jun 2020 · 6 レポート
TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

TikTok Is Filled With Pro-Eating Disorder Content, Despite Its Own Rules

Jul 2019 · 3 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 300d90c