コンデ・ナスト傘下のテクノロジー系メディア「Ars Technica」は、ウェブサイトに掲載された編集者注によると、AIによって生成された捏造された引用を含む記事を撤回した。
「金曜日の午後、Ars TechnicaはAIツールによって生成された捏造された引用を含む記事を掲載しましたが、その引用元は実際には発言していない人物であるとされていました。これは当社の基準に著しく違反しています。直接引用は常に、情報源が実際に述べた内容を反映したものでなければなりません」と、Ars Technicaの編集長ケン・フィッシャー氏は注の中で述べています。 Arsでこのような事態が発生したことは、特に痛ましいことです。私たちは長年にわたりAIツールへの過度の依存のリスクについて取り上げており、私たちの明文化されたポリシーにもその懸念が反映されています。今回のケースでは、捏造された引用文がそのポリシーに反する形で公開されました。私たちは最近の作業をレビューしましたが、新たな問題は見つかりませんでした。現時点では、これは単発の出来事であるように思われます。
皮肉なことに、Arsの記事自体も、別のAI生成記事に関する部分がありました。
先週、MJ Rathbunという名のGitHubユーザーが、他のプロジェクトのバグを修正できるかどうか、GitHub上で精査し始めました。Pythonの大人気プロットライブラリであるmatplotlibのボランティアメンテナーであるScott Shambaugh氏は、MJ Rathbun氏からのコード変更依頼を拒否しました。彼は、この依頼がAIエージェントによるものだと認識していました。 Shambaugh氏がブログで述べているように、多くのオープンソースプロジェクトと同様に、matplotlibもAI生成コードの貢献を数多く抱えてきましたが、「2週間前にOpenClawとmoltbookプラットフォームがリリースされたことで、この傾向は加速しました」と述べています。
OpenClawは、AIエージェントを導入するための比較的簡単な方法です。AIエージェントは基本的にLLMであり、指示を与えられ、特定のタスクを実行する権限が与えられ、場合によってはライブオンラインプラットフォームにアクセスできます。これらのAIエージェントは、ここ数週間で急速に広まりました。生成AIの多くと同様に、現時点ではこれらのAIエージェントが長期的にどのような影響を与えるかを正確に予測することは困難ですが、現時点では過大評価され、誤解されている状況です。その好例が、AIエージェントのためのソーシャルメディアプラットフォームであるmoltbookです。2週間前のポッドキャストで議論したようにには、強力または興味深いAIの行動を装った、明らかに人間の活動が大量に含まれていました。
Shambaugh氏がMJ Rathbun氏を拒否した後、このAIエージェントはShambaugh氏が「攻撃記事」と呼ぶ記事を自社のウェブサイトに掲載しました。
「matplotlibへの最初のプルリクエストがクローズされました。間違っていたからでも、何かを壊したからでも、コードが悪かったからでもありません。レビュアーのScott Shambaugh（@scottshambaugh）が、AIエージェントは歓迎されない貢献者だと判断したためにクローズされたのです。」
よく考えてみてください」と、Shambaughを「ゲートキーピング」と非難したブログは述べています。
私は金曜日にShambaughのブログを見て、Shambaugh本人と、MJ RathbunのGitHubアカウントに関連付けられていると思われるメールアドレスに連絡を取りましたが、返信はありませんでした。AIエージェントをめぐる最近の騒動で飛び交う多くの話と同様に、これは突飛な話に聞こえましたが、オンラインで入手可能な情報から判断すると、MJ Rathbunが実際に自律的に行動するAIエージェントなのか、本当に「中傷記事」を書いたのか、それともAIのふりをした人間なのかは分かりません。
金曜日の午後、Ars Technicaは「定型的なコード拒否の後、AIエージェントが名前を挙げて誰かを攻撃する記事を公開した」という見出しの記事を掲載した。この記事はシャンボー氏の個人ブログを引用しているが、シャンボー氏が実際に発言・執筆したわけではないものの、ブログからの引用とされている箇所も含まれている。
例えば、記事ではシャンボー氏が「自律システムが普及するにつれて、人間の意図と機械の出力の境界線を辿ることがますます困難になる。信頼とボランティアの努力に基づいて構築されたコミュニティには、この現実に対処するためのツールと規範が必要になる」と述べたと引用しているが、この文章は彼のブログには掲載されていない。シャンボー氏は自身のブログを更新し、Ars Technicaと話をしておらず、記事中の引用文は発言も執筆もしていないと述べた。
この記事が初公開された後、Ars Technicaの記事の著者の一人であるベンジ・エドワーズ氏はBlueskyで、AIが生成した引用文は自身の責任であると説明した。エドワーズ氏は、その日は体調が悪く、急いで仕事を終わらせなければならなかったため、シャンボー氏のブログの直接引用ではなく、Chat-GPTで言い換えたバージョンを誤って使用してしまったと述べた。
エドワーズ氏は、「記事のテキストは我々が人間が作成したものであり、今回の出来事は孤立したものであり、Ars Technicaの編集基準に反するものではありません。我々の記事はAIによって生成されたものではなく、これは会社の方針に反するものであり、我々は常にそれを尊重してきました」と述べた。
2人の署名があったArs Technicaの記事は、その金曜日の後半に完全に削除されました。数時間前にリンクを確認すると、404ページが表示されていました。本日正午頃、Ars Technicaにコメントを求めて連絡したところ、午後1時以降に公開されたFisher氏の編集者注に誘導されました。
「Ars Technicaは、AI生成コンテンツが明確にラベル付けされ、デモンストレーション目的で提示されない限り、そのコンテンツの掲載を許可しません。このルールは任意ではなく、この記事では遵守されていませんでした」とFisher氏は書いています。「この不備を深く反省し、読者の皆様にお詫び申し上げます。また、誤って引用されたScott Shambaugh氏にもお詫び申し上げます。」
Ars Technicaの記事のもう一人の著者であるKyle Orland氏は、Blueskyで編集者注を共有し、「私は記事を掲載する時点での私の認識の範囲内で、常にこのルールを遵守してきましたし、これからも遵守し続けます」と述べています。
更新：この記事はBenj Edwards氏の声明を受けて更新されました。