Descripción: Según informes, los investigadores rastrearon la aparición de la frase sin sentido "microscopía electrónica vegetativa" en artículos científicos hasta una contaminación en los datos de entrenamiento de la IA. Las pruebas indicaron que grandes modelos lingüísticos como GPT-3, GPT-4 y Claude 3.5 podrían reproducir el término. El error supuestamente se originó a partir de un error de digitalización que fusionó palabras no relacionadas durante el escaneo, y de un error posterior de traducción entre el farsi y el inglés.
Editor Notes: Timeline notes: The phrase "vegetative electron microscopy" reportedly originated from a digitization error in 1950s scientific texts and was later reinforced by a translation mistake in papers published in 2017 and 2019. In 2025, researchers allegedly found that several large language models were reproducing the term, possibly due to training data contamination from Common Crawl.
Entidades
Ver todas las entidadesAlleged: OpenAI y Anthropic developed an AI system deployed by OpenAI , Anthropic , Researchers y Scientific authors, which harmed Researchers , Scientific authors , Scientific publishers , Peer reviewers , Scholars , Readers of scientific publications , Scientific record y Academic integrity.
Estadísticas de incidentes
ID
1044
Cantidad de informes
2
Fecha del Incidente
2025-04-15
Editores
Daniel Atherton
Informes del Incidente
Cronología de Informes
A principios de este año, científicos descubrieron un término peculiar que aparece en artículos publicados: "microscopía electrónica vegetativa".
Esta frase, que suena técnica pero en realidad no tiene sentido, se ha convertido en un "fósil…
La frase era tan extraña que habría llamado la atención incluso para alguien que no fuera científico. Sin embargo, la "microscopía electrónica vegetativa" ya había sido aprobada por revisores y editores de varias revistas cuando un químico …
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Danger, danger! 10 alarming examples of AI gone wild
· 6 informes
AI’s Islamophobia problem
· 3 informes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Danger, danger! 10 alarming examples of AI gone wild
· 6 informes
AI’s Islamophobia problem
· 3 informes