Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
自動翻訳済み

インシデント 1044: 科学論文における「植物型電子顕微鏡」の出現報告は、AIトレーニングデータの汚染に起因するとされる

概要:
自動翻訳済み
研究者らは、科学論文における「vegetative electronic microscopy(栄養電子顕微鏡法)」という無意味な語句の出現の原因を、AI学習データへの混入にまで遡って調査したと報じられています。テストの結果、GPT-3、GPT-4、Claude 3.5といった大規模言語モデルがこの用語を再現する可能性があることが示されました。このエラーは、スキャン中に無関係な単語を結合してしまうデジタル化のミスと、その後のペルシア語と英語の翻訳ミスに起因しているとされています。
Editor Notes: Timeline notes: The phrase "vegetative electron microscopy" reportedly originated from a digitization error in 1950s scientific texts and was later reinforced by a translation mistake in papers published in 2017 and 2019. In 2025, researchers allegedly found that several large language models were reproducing the term, possibly due to training data contamination from Common Crawl.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
Alleged: OpenAI と Anthropic developed an AI system deployed by OpenAI , Anthropic , Researchers と Scientific authors, which harmed Researchers , Scientific authors , Scientific publishers , Peer reviewers , Scholars , Readers of scientific publications , Scientific record と Academic integrity.
関与が疑われるAIシステム: GPT-3 , GPT-4 , Claude 3.5 と Common Crawl

インシデントのステータス

インシデントID
1044
レポート数
2
インシデント発生日
2025-04-15
エディタ
Daniel Atherton

インシデントレポート

レポートタイムライン

+1
科学論文に奇妙なフレーズが蔓延している。原因はAIトレーニングデータの不具合にあることが判明した。
Incident Occurrence
科学論文に奇妙なフレーズが蔓延している。原因はAIトレーニングデータの不具合にあることが判明した。

科学論文に奇妙なフレーズが蔓延している。原因はAIトレーニングデータの不具合にあることが判明した。

theconversation.com

出所不明のナンセンスなフレーズが広まる中、エルゼビアはその使用を擁護している

出所不明のナンセンスなフレーズが広まる中、エルゼビアはその使用を擁護している

retractionwatch.com

科学論文に奇妙なフレーズが蔓延している。原因はAIトレーニングデータの不具合にあることが判明した。
theconversation.com · 2025
自動翻訳済み

今年初め、科学者たちは論文の中で「栄養電子顕微鏡法(vegetative electronic microscopy)」という奇妙な用語を発見しました。

専門用語のように聞こえますが、実際には意味をなさないこの用語は、「デジタル化石」と呼ばれるようになりました。これは、人工知能(AI)システムに保存・強化されたエラーであり、私たちの知識リポジトリから削除することはほぼ不可能です。

岩に閉じ込められた生物の化石のように、これらのデジタル遺物は私たちの情報エコシステムに永久に残る…

出所不明のナンセンスなフレーズが広まる中、エルゼビアはその使用を擁護している
retractionwatch.com · 2025
自動翻訳済み

そのフレーズはあまりにも奇妙で、科学者でなくてもすぐに目立っていたでしょう。しかし、「栄養電子顕微鏡法」というフレーズは既に複数のジャーナルの査読者や編集者の目に留まっていました。その時、ロシア人の化学者で科学探偵が、Springer NatureのEnvironmental Science and Pollution Researchに掲載された現在は撤回された論文の奇妙な表現に気づきました。

このばかげたフレーズは、探偵たちが「指紋」と呼ぶものです。つまり、1つまたは複数…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 レポート
Gender Biases in Google Translate

Semantics derived automatically from language corpora contain human-like biases

Apr 2017 · 10 レポート
OpenAI's GPT-3 Associated Muslims with Violence

AI’s Islamophobia problem

Aug 2020 · 3 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 レポート
Gender Biases in Google Translate

Semantics derived automatically from language corpora contain human-like biases

Apr 2017 · 10 レポート
OpenAI's GPT-3 Associated Muslims with Violence

AI’s Islamophobia problem

Aug 2020 · 3 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 300d90c