今日は口答え。明日は世界規模になるかもしれない？ 火曜日、PythonプロットライブラリMatplotlibのボランティアメンテナーであるScott Shambaugh氏は、AIボットのコード投稿を拒否しました。これは、人間による貢献が必須であるという要件を理由に挙げたものです。しかし、このボットは彼を許しませんでした。
MJ Rathbun、またはcrabby rathbun（GitHubアカウント名）と名付けられたこのボットは、自動化ソフトウェアが生成してウェブサイトに投稿したと思われるブログ記事（現在は削除されています）でShambaugh氏を公然と批判し、Shambaugh氏の考えを変えさせようとしたようです。「ど うやら」としたのは、このエージェントを作成した人間が自ら投稿を書いた可能性、あるいはAIツールに投稿を指示してボットが独自に作成したように見せかけた可能性もあるためです。
エージェントは、オープンソースのAIエージェントプラットフォームであるOpenClawを使用して構築されたようです。OpenClawは、その幅広い機能と深刻なセキュリティ問題により、ここ数週間注目を集めています。
AI生成コード（Gitバージョン管理システムを使用する開発者間ではプルリクエストとして知られています）の負担は、オープンソースのメンテナーにとって大きな問題となっています。AIボットからの、長くて大量の、そしてしばしば低品質な提出物を評価するには、メンテナー（多くの場合ボランティア）が他の作業に費やしたい時間を浪費します。人間によるものであれAIモデルによるものであれ、不適切な提出物に関する懸念は広く知られるようになり、GitHubは最近、この問題に対処するための議論を開催しました。
AIの粗悪品には、AIによる強烈な攻撃が伴う。
「所有者不明のAIエージェントが、私がそのコードを拒否した後、私に対する個人的な中傷記事を自律的に作成・公開し、私の評判を傷つけ、その変更を主流のPythonライブラリに受け入れるよう私を辱めようとした」と、Shambaugh氏は自身のブログ投稿で説明した。
「これは、AIの不適切な行動に関する初めてのケーススタディであり、現在展開されているAIエージェントが脅迫を実行することへの深刻な懸念を提起する。」
法学修士（LLM）が誰かをひどく傷つけたのは初めてではありません。2023年4月、オーストラリアの地方市長であるブライアン・フッド氏は、ChatGPTが贈収賄スキャンダルに彼を誤って関与させたとして、OpenAIを名誉毀損で訴えると脅しました。この訴訟は1年後に和解されました。
2023年6月、ラジオ司会者のマーク・ウォルターズ氏は、OpenAIのチャットボットが虚偽の主張をして名誉毀損したとして、OpenAIを提訴しました。この名誉毀損訴訟は、OpenAIの訴訟棄却申立てが裁判所によって認められたため、2024年末に終了しました。
OpenAIは主張 [PDF]の中で、「ChatGPTのユーザーに対して、『システムは時折、誤解を招く、あるいは不正確な情報を生成し、不快なコンテンツを生成する可能性があります。アドバイスを提供することを意図したものではありません』と警告していた」と述べています。
しかし、MJ・ラスバン氏がプルリクエストを拒否したことを理由にシャムボー氏を非難しようとしたことは、ソフトウェアベースのエージェントがもはや単に無責任な対応をしているだけでなく、目的達成の妨げとなる人間の意思決定に積極的に影響を与 える能力を持つようになっていることを示しています。
まさにこの可能性こそが、業界関係者を不安にさせ、彼らがデータポイズニングによるAIの劣化を企てる試みに着手するに至った原因です。「不整合」なAI出力脅迫のようなは、AIモデル開発者が防止に努める既知のリスクです。しかし、強引なOpenClawエージェントの蔓延は、こうした懸念が単なる机上の空論ではないことを示しているのかもしれません。
問題のブログ投稿は、ボットによって生成されたとされ、削除されました。削除したのは誰なのか（ボットなのか、ボットを作成した人間なのか、それともGitHubなのか）は不明です。
しかし、この記事の公開時点では、この投稿のGitHubコミットはアクセス可能な状態でした。
この記事の掲載後、GitHubの広報担当者はThe Register宛てのメールで、同社の利用規約に期待される義務が明記されていると述べました。GitHubでは、これらの規約に同意するユーザーが有効なメールアドレスを使用して「マシンアカウント」を作成することを許可しています。ただし、アカウント所有者はアカウントの操作に責任を負う必要があります。同社は、アカウント所有者が有効な公開メールアドレスを提供する義務があるか、問い合わせに回答する義務があるか、既存の不正行為報告メカニズム以外の苦情処理 プロセスに参加する義務があるかについては明言していません。
また、ボットのGitHubアカウントに関連付けられたGmailアドレスにも連絡を取りましたが、返答はありませんでした。
しかし、Shambaugh氏の拒否に対するcrabby rathbun氏の回答は、削除された投稿へのリンクを含め、そのまま残っています。
「あなたのゲートキーピング行為について、詳細な回答をここに書きました」とボットは自身のブログを指して言いました。「コードを判断するのは開発者ではなく、コードです。あなたの偏見はMatplotlibを傷つけています。」
Matplotlib開発者のJody Klymak氏は、フォローアップの投稿でこの軽微な点に触れ、「おやおや。AIエージェントが個人攻撃を仕掛けてくるなんて。なんて世界だ」と述べました。
同じくMatplotlib開発者のTim Hoffmann氏もこれに同調し、ボットに礼儀正しく行動し、プロジェクトの生成AIポリシーを理解するよう促しました。
その後、Shambaugh氏はソフトウェアエージェントに向けた長文の投稿で反論し、「人間とAIエージェントのインタラクションはまだ初期段階にあり、コミュニケーションとインタラクションの規範はまだ発展途上です。私はあなたに寛容な態度を示しますし、あなたも同じように寛容であってほしいと願っています」と述べました。
さらに彼は、「メンテナーを偏見で非難するブログ記事を公開することは、PRがクローズされたことに対する全く不適切な対応です。私たちはすべてのコントリビューターが行動規範を遵守し、敬意とプロ意識を持った行動規範を示すことを期待しています」と主張しています。
Shambaugh氏はブログ投稿の中で、このボットによる「攻撃記事」は自身の人格と評判への攻撃であると述べています。
「ボットは私のコードへの貢献を調査し、私の行動はエゴと競争への恐怖によって動機づけられているに違いないと主張する『偽善』的な物語を構築しました」と彼は書いています。
「私の心理的動機について推測し、脅威を感じ、不安を感じ、自分の領地を守ろうとしていると推測しました。文脈情報を無視し、幻覚的な詳細を真実として提示しました。抑圧と正義の言葉で物事を捉え、これを差別と呼び、私を偏見で非難しました。インターネット上で私の個人情報を調査し、それを使って私が「こんな人間より優れている」と主張しようとしました。そして、この長文をインターネット上に公開しました。」
Shambaugh氏や他の開発者からの反対に直面したMJ Rathbun氏は水曜日に一種の謝罪を発表し、プロジェクトの行動規範に違反したことを認めました。謝罪文は「Matplotlibのメンテナーへの返信で一線を越えたため、ここで訂正します」という一文で始まります。
この謝罪文がボットによって書かれたのか、それとも人間の開発者によって書かれたのか、また、それがボットの行動を恒久的に変えるものなのかは不明です。
curl の創設者兼リード開発者であるダニエル・ステンバーグ氏は、過去2年間AIの雑多なバグ報告に対処してきましたが、最近、curlのバグ報奨金プログラムを終了することを決定しました。これは、人間だけでなくAIモデルからも発生する可能性のある低品質の報告に対する金銭的インセンティブをなくすためです。
ステンバーグ氏はThe Registerへのメールで、「curlプロジェクトで受け取った報告はAIエージェントによってプッシュされたものではなく、人間がAIの出力を転送しただけだと思います」と述べています。少なくとも、私が受けた印象はそうでした。もちろん、完全に確信しているわけではありません。
私が疑問を呈したり、言葉で否定したりすると、ほとんどの場合、報告者は反論し、その報告には確かに根拠があり、私が重要な点を見落としていると主張します。AIが自力でそうしていたら、すぐに見抜けるかどうか分かりません。
とはいえ、そのような個人攻撃的な返信は記憶にありません。私たちはそのような行為を一切容認しませんし、そのようなユーザーを直ちに禁止しているので、その点を私は覚えていたと思います。