概要: 研究者らは、科学論文における「vegetative electronic microscopy（栄養電子顕微鏡法）」という無意味な語句の出現の原因を、AI学習データへの混入にまで遡って調査したと報じられています。テストの結果、GPT-3、GPT-4、Claude 3.5といった大規模言語モデルがこの用語を再現する可能性があることが示されました。このエラーは、スキャン中に無関係な単語を結合してしまうデジタル化のミスと、その後のペルシア語と英語の翻訳ミスに起因しているとされています。
Editor Notes: Timeline notes: The phrase "vegetative electron microscopy" reportedly originated from a digitization error in 1950s scientific texts and was later reinforced by a translation mistake in papers published in 2017 and 2019. In 2025, researchers allegedly found that several large language models were reproducing the term, possibly due to training data contamination from Common Crawl.
Alleged: OpenAI と Anthropic developed an AI system deployed by OpenAI , Anthropic , Researchers と Scientific authors, which harmed Researchers , Scientific authors , Scientific publishers , Peer reviewers , Scholars , Readers of scientific publications , Scientific record と Academic integrity.
インシデントのステータス
インシデントID
1044
レポート数
2
インシデント発生日
2025-04-15
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
今年初め、科学者たちは論文の中で「栄養電子顕微鏡法（vegetative electronic microscopy）」という奇妙な用語を発見しました。
専門用語のように聞こえますが、実際には意味をなさないこの用語は、「デジタル化石」と呼ばれるようになりました。これは、人工知能（AI）システムに保存・強化されたエラーであり、私たちの知識リポジトリから削除することはほぼ不可能です。
岩に閉じ込められた生物の化石のように、これらのデジタル遺物は私たちの情報エコシステムに永久に残る…
そのフレーズはあまりにも奇妙で、科学者でなくてもすぐに目立っていたでしょう。しかし、「栄養電子顕微鏡法」というフレーズは既に複数のジャーナルの査読者や編集者の目に留まっていました。その時、ロシア人の化学者で科学探偵が、Springer NatureのEnvironmental Science and Pollution Researchに掲載された現在は撤回された論文の奇妙な表現に気づきました。
このばかげたフレーズは、探偵たちが「指紋」と呼ぶものです。つまり、1つまたは複数…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完 全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents