AIスタートアップ企業Anysphereは、AI搭載のソフトウェアコーディングアシスタント「Cursor」の人気の急上昇により、過去2か月間好調を維持している。同社はOpenAIによる買収の対象とされ、評価額約100億ドルで資金調達交渉中と報じられており、2023年のCursor発売以来、年間収益1億ドルを達成している。しかし今週、Cursorはまったく間違った理由で話題になった。同社の顧客サポートAIが暴走し、キャンセルの波を引き起こし、自動化に大きく賭ける他のスタートアッ…

先月、コンピュータプログラマー向けの注目ツールのテクニカルサポートを担当するAIボットが、複数の顧客に対し、会社のポリシー変更について警告しました。Cursorを複数のコンピュータで使用できなくなったという内容でした。

インターネット掲示板には、怒りの投稿が寄せられ、顧客からの苦情が殺到しました。中にはCursorアカウントを解約した人もいました。さらに、AIボットが実際には存在しないポリシー変更を発表したという事実に気づき、怒りを募らせた人もいました。

「そのようなポリシー…

人工知能（AI）の世界で奇妙な現象が起きている。ボットが強力になるにつれ、これまで以上に多くのミス（いわゆる「幻覚」）を生み出しているとニューヨーク・タイムズが報じている。そして、技術ライターのケイド・メッツ氏とカレン・ワイズ氏の記事で説明されているように、「その理由は完全には解明されていない」。例えば、Open AIが導入した新しく改良されたo3推論システムは、著名人に関する質問を含むベンチマークテストで33%の確率で幻覚を起こしたと報告されている。これは憂慮すべき事態だが…