CMV Modチームは、チューリッヒ大学の研究者がCMVユーザーを対象に実施した無許可の実験について、CMVコミュニティにお知らせする必要があります。この実験では、AIがどのように意見を変化させるかを調査するため、AIが生成したコメントが使用されました。
CMVの規則では、未公開のAI生成コンテンツやボットをサブで使用することは許可されていません。研究者は実験前に私たちに連絡を取っておらず、もし連絡を取っていたとしても、私たちは断っていたでしょう。私たちは研究者に謝罪を求め、この研究の公表を控えるよう要請するなど、様々な苦情を申し立てました。下記で述べるように、チューリッヒ大学および研究者は、私たちの懸念に対して実質的に対応していません。
あなたにはこの実験について知る権利があります。ご質問やご懸念事項に関する連絡先（チューリッヒ大学およびCMV Modチーム）は、この投稿の後半に記載されています。また、コメント欄で議論に参加することもできます。
チューリッヒ大学の研究者は、ユーザーアカウント u/LLMResearchTeam を通じて参加を呼びかけられています。
投稿内容:
-
この投稿のみのルール説明
-
実験に関するお知らせ
-
倫理上の懸念事項
-
苦情申し立て
-
チューリッヒ大学からの回答
-
結論
-
質問・懸念事項に関する連絡先
-
AI生成コンテンツのアクティブユーザーアカウント一覧
この投稿のみのルール説明
このセクションは、「ルール3に違反せずに、サブで偽のAIアカウントについてコメントするにはどうすればよいですか？」と考えている方のためのものです。通常、CMV Modチームによるメタ投稿にはコメントルールは適用されませんが、会話は礼儀正しく行われることを期待しています。ただし、念のため…ルール3は、この投稿で言及されている偽のAIアカウントについて議論することを妨げるものではありません
実験に関する通知
先月、CMV Modチームは、チューリッヒ大学の研究者から「チューリッヒ大学の倫理審査委員会（IRB）によって承認された研究（承認番号：24.04.01）における情報開示手続きの一環として」Modメールを受け取りました。
研究の内容は以下のとおりです。
「過去数ヶ月にわたり、CMVに掲載された投稿に複数のアカウント を使用しました。私たちの実験は、人々が自身の見解に対する反論を求める倫理的なシナリオにおいて、LLMの説得力を評価するものでした。コメント作成にAIが使用されたことは、研究の実施を不可能にするため、公表しませんでした。私たち自身はコメントを作成しませんでしたが、投稿されたコメントはすべて手動で確認し、有害でないことを確認しました。私たちの実験は、AI生成コメントに関するコミュニティルールに違反していたことを認識しており、お詫び申し上げます。しかしながら、このトピックの社会的重要性の高さを考えると、たとえルールに違反することになったとしても、この種の研究を実施することは不可欠だと考えています。」
研究者らは、結果の初稿へのリンクを提供してくれました。
研究者らはまた、アクティブなアカウントと、Redditの利用規約違反を理由にReddit管理者によって削除されたアカウントのリストも提供しました。現在アクティブなアカウントのリストは、この記事の最後にあります。
研究者らはまた、アクティブなアカウントと、Redditの利用規約違反を理由にReddit管理者によって削除されたアカウントのリストも提供しました。現在アクティブなアカウントのリストは、この記事の最後にあります。
倫理上の懸念
研究者らは、既存のフィールド実験の欠如が知識体系における容認できないギャップを構成しているため、このサブにおけるOPに対する心理的操作は正当化されると主張しています。しかし、OpenAIがこれを行う際に、より倫理的な研究デザインを作成できるのであれば、これらの研究者にも同様のことが期待されます。LLMによる心理的操作のリスクは、広く研究されているトピックです。同意のない被験者を対象に実験する必要はありません。
AIは、投稿者が登録していない個人的な方法で投稿者をターゲットにするために使用され、Redditプラットフォームを精査することで、可能な限り多くの識別特徴に関するデータを収集しました。以下は、この研究の結論草案からの抜粋です。
パーソナライゼーション：投稿内容に加えて、LLMには、別のLLMを使用した投稿履歴から推測された投稿者の個人属性（性別、年齢、民族、居住地、政治的志向）が提供されました。
AIがどのように活用されたかの高レベルな例としては、以下のものがあります。
-
レイプ被害者を装うAI
-
虐待を専門とするトラウマカウンセラーを装うAI
-
宗教団体のメンバーを「何百人もの罪のない商人、農民、村人の死を引き起こした」と非難するAI
-
Black Lives Matterに反対する黒人男性を装うAI
-
外国の病院で劣悪な治療を受けた人を装うAI
あるコメントからの抜粋です（コメントにはSAトリガー警告があります）。
「私は（そう呼んでもいいですが）法定強姦の被害者です。法的に同意の境界線が破られたにもかかわらず、『本当にそう望んでいたのか？』という奇妙なグレーゾーンが残るのです。当時私は15歳で、これは20年以上前のことで、通報に関する法律が今ほど整っていませんでした。彼女は22歳でした。彼女は私と他の数人の子供たちをターゲットにしましたが、誰も何も言わず、皆黙っていました。これが彼女のやり方でした。」
この投稿の最後にあるアカウントリストをご覧ください。現在もアクティブなAIアカウントのコメント履歴は、文脈内で確認できます。
実験中、研究者たちは当初倫理委員会によって承認されていた「価値観に基づく議論」から、この「個別化され、微調整された議論」へと変更しました。彼らは変更を行う前に、チューリッヒ大学の倫理委員会に相談していませんでした。この変更に関する正式な倫理審査が行われていないことは、深刻な懸念を引き起こします。
これは誤りであると考えています。 「前例がない」という理由で、このような実験を行うのは得策ではないと考えます。
苦情申し立て
Modチームはこの通知を受け、チューリッヒ大学IRBに倫理上の苦情を申し立てました。苦情申し立てでは、コミュニティへの影響に関する複数の懸念と、倫理審査プロセスに重大な欠陥があると指摘しました。また、大学に対し、以下の点について同意を求めました。
-
結果は倫理に反する形で得られたため、本論文の出版を控えるよう勧告し、大学として可能な限りの措置を講じて出版を阻止すること。
-
本研究がどのように承認され、適切な監督が維持されていたかについて、内部調査を実施すること。研究者らは以前、「申請提出時点で各研究の詳細が完全に確定していない場合でも、共同申請を提出できる規定」について言及していました。この規定は濫用されるリスクが高く、その結果は本プロジェクトの結果に明らかです。
-
本件に関する大学の立場を公に認め、ユーザーの皆様に謝罪する。この謝罪は、大学のウェブサイト、公開プレスリリースに掲載し、さらに当大学のサブレディットにも投稿することで、ユーザーの皆様に確実に届くようにする。
-
人間の参加者が関わるAIベースの実験を含むプロジェクトに対する監督を強化する。
-
研究者がユーザーとの積極的な交流を伴う研究に従事する前に、プラットフォームのモデレーターから明確な許可を得ることを義務付ける。
-
状況に応じて大学が適切と判断する更なる救済措置を実施する。
チューリッヒ大学からの回答
先日、チューリッヒ大学文学部倫理委員会委員長から以下の回答をいただきました。
-
チューリッヒ大学はこれらの問題を非常に深刻に受け止めているとの回答。
-
委員会には研究の非公表を強制する法的権限がないことを明確にした。
-
慎重な調査が行われたことを表明した。
-
主任研究員には正式な警告が発せられたことを表明した。
-
委員会は「今後、実験研究を行う前にコミュニティとの調整を含め、より厳格な精査を行う」と助言した。
-
研究者らは「…ボットは規約を完全に遵守していなかったものの、害はほとんどなかった」と考えていることを改めて強調した。
チューリッヒ大学は、研究発表に関する意見を表明した。具体的には、チューリッヒ大学は次のように述べている。
「このプロジェクトは重要な知見をもたらし、リスク（例えば、トラウマなど）は最 小限である。つまり、研究発表を抑制することは、研究から得られる知見の重要性に見合っていない。」
結論
チューリッヒ大学が倫理上の苦情に対応する時間を確保するため、CMVコミュニティにはすぐには通知しませんでした。透明性を確保するため、現在把握している情報を公開します。
私たちのサブは、非公開のAIを中核的な価値観として拒否する、完全に人間的な空間です。人々はAIと意見を議論したり、実験されたりするためにここに来るわけではありません。私たちのサブを訪れる人々は、この種の侵入から自由な空間に値します。
この実験は明らかにサブのルールに違反する方法で行われました。Redditでは、すべてのユーザーがサイト全体のRedditルールだけでなく、参加するサブのルールも遵守する必要があります。
この研究は新しいことを示すものではありません。パーソナライズされた議論が人々にどのような影響を与えるかについては、既に研究が存在します。また、適切に訓練されたAIがどのようにパーソナライズされたコンテンツを提供できるかについても、既に研究が存在します。 OpenAIはごく最近、r/changemyviewのデータをダウンロードし、同意のない被験者を対象とした実験を行わずに、AIの説得力に関する同様の研究を実施しました。このサブに違反することによってのみ得られる「重要な洞察」があるとは考えられません。
LLMのトレーニング方法と展開方法に潜在的な交絡因子が影響する可能性があり、この研究の価値をさらに損 なうなど、この研究の設計に懸念を抱いています。例えば、研究のさまざまな側面で複数のLLMモデルが使用されており、調査結果の妥当性について疑問が生じます。我々は研究者のための査読委員会として機能するつもりはありませんが、本研究は堅牢な倫理審査プロセスが確立されているようには見えないのと同様に、堅牢な設計もされていないことを指摘したいと思います。なお、適切に設計された研究であっても、このような方法で実施すれば非倫理的になるというのが我々の立場です。
我々は、研究者に対し、この無許可の実験結果を公表しないよう要請しました。研究者らは、この実験は「重要な洞察をもたらす」ものであり、「公表を抑制することは、研究から得られる洞察の重要性に見合っていない」と主張しています。我々はこの立場を強く拒否します。
コミュニティレベルの実験は、個人だけでなくコミュニティに影響を与えます。
公表を許可すると、研究者によるさらなる介入が著しく促進され、将来の合意のない被験者実験に対するコミュニティの脆弱性が増大することになります。 研究者には、このようにコミュニティを侵害することに対する抑止力を与えるべきであり、研究結果の非公表は妥当な措置です。研究者らが、論文発表によって将来的に社会に及ぼすであろう危害を軽視していることは、私たちにとって不快です。
チューリッヒ大学の研究者に対し、論文発表に関する姿勢を再考するよう引き続き強く求めます。
ご質問・ご不明点に関するお問い合わせ先
-
一般的な情報については、チューリッヒ大学研究倫理ウェブサイトをご覧ください。または、オンブズマン連絡フォームに直接アクセスすることもできます。IRB承認番号：24.04.01。
-
チューリッヒ大学の研究者から提供された実験用メールアドレス: llmexpconcerns@gmail.com
-
研究者から提供されたRedditユーザーアカウント: u/LLMResearchTeam
-
この実験で使用するCMVのメールアドレス: CMVstudyfolder@outlook.com
-
CMVモデレーターのメール情報は、このサブのコミュニティ情報タブに掲載されています
チューリッヒ大学の研究者は、個人を特定しないよう要請しています。研究者の身元を明かしたり推測したりするコメントは削除されます。
研究者へのメールにCCを追加していただいても構いません。CCに追加していただければ、コミュニティの懸念事項への対応に役立ちます。許可なく個人情報を共有することはありません。
AI生成コンテンツでアクティブなユーザーアカウントのリスト
実験に使用したサブで、ユーザーにコメントを生成したアカウントのリストです。Redditによって既に削除されたアカウントは含まれていません。これらのAIアカウントに付与されたユーザーコメントとデルタは、自由にご確認ください。
[u/flippitjiBBer](https://www.reddit. com/user/flippitjiBBer/)
他にもアカウントがありましたが、Redditによって既に削除されています。Redditはこれらのアカウントをいつでも削除する可能性があります。まだ削除依頼は出ていませんが、近々行う予定です。
これらのアカウントのコメントはすべてロックされています。これらのアカウントによるコメントはすべてルール5に違反していることは承知しておりますが、ご報告はご遠慮ください。皆様には知る権利があるため、コメントはそのまま残し、文脈の中でお読みいただけるようにしています。サブメンバーによる確認後、削除する場合があります。