Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 466: AI-Generated-Text-Detection Tools Reported for High Error Rates

Descripción: Models developed to detect whether text generation AI was used such as AI Text Classifier and GPTZero reportedly contained high rates of false positive and false negative, such as mistakenly flagging Shakespeare's works.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por OpenAI y Edward Tian, perjudicó a Teachers y students.

Estadísticas de incidentes

ID
466
Cantidad de informes
7
Fecha del Incidente
2023-01-03
Editores
Khoa Lam
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

Incident OccurrenceTuit: @DannyRichmanOpenAI no puede detectar su propio texto generado por ChatGPT la mayor parte del tiempo+2
Tuit: @rasbt
La ciencia de detectar textos generados por LLMfebrero 2023
Tuit: @DannyRichman

Tuit: @DannyRichman

twitter.com

OpenAI no puede detectar su propio texto generado por ChatGPT la mayor parte del tiempo

OpenAI no puede detectar su propio texto generado por ChatGPT la mayor parte del tiempo

vice.com

Tuit: @rasbt

Tuit: @rasbt

twitter.com

La herramienta de detección ChatGPT dice que Macbeth fue generado por IA. ¿Que pasa ahora?

La herramienta de detección ChatGPT dice que Macbeth fue generado por IA. ¿Que pasa ahora?

venturebeat.com

Tuit: @samfbiddle

Tuit: @samfbiddle

twitter.com

La ciencia de detectar textos generados por LLM

La ciencia de detectar textos generados por LLM

medium.com

febrero 2023

febrero 2023

raillc.substack.com

Tuit: @DannyRichman
twitter.com · 2023
Traducido por IA
  1. Creó un artículo usando GPT-3.
  2. Utilizó Originality AI para detectar si el contenido era AI o generado por humanos. Puntuación: 100% IA
  3. Solicitó a GPT-3 que reescribiera el artículo "para evitar la detección por parte de las herramientas de…
OpenAI no puede detectar su propio texto generado por ChatGPT la mayor parte del tiempo
vice.com · 2023
Traducido por IA

En respuesta a la creciente preocupación de los educadores sobre la capacidad de ChatGPT para ayudar a los estudiantes a hacer trampa, OpenAI lanzó el martes una herramienta que puede detectar texto escrito por IA. Sin embargo, la compañía …

Tuit: @rasbt
twitter.com · 2023
Traducido por IA

OpenAI acaba de lanzar el "clasificador de texto AI" para identificar textos generados por AI. Lo intente y NO FUNCIONA. https://platform.openai.com/ai-text-classifier

Usando mi libro Python ML publicado en 2015:

  1. Prólogo de @randal_olson: …
La herramienta de detección ChatGPT dice que Macbeth fue generado por IA. ¿Que pasa ahora?
venturebeat.com · 2023
Traducido por IA

ChatGPT lanzó ayer una nueva herramienta clasificadora para detectar texto generado por IA que, en unas pocas horas, demostró ser imperfecto, en el mejor de los casos. Resulta que cuando se trata de detectar IA generativa, ya sea texto o im…

Tuit: @samfbiddle
twitter.com · 2023
Traducido por IA

OpenAI está respondiendo a la preocupación generalizada sobre la tecnología que ofrece al mundo al lanzar un detector de texto de IA que es preciso el 26 % de las veces y arroja falsos positivos el 9 % de las veces.

Bienvenida

parece que el…

La ciencia de detectar textos generados por LLM
medium.com · 2023
Traducido por IA

Los avances recientes en la tecnología de generación de lenguaje natural (NLG) han mejorado significativamente la diversidad, el control y la calidad de los textos generados por LLM. Un ejemplo notable es ChatGPT de OpenAI, que demuestra un…

febrero 2023
raillc.substack.com · 2023
Traducido por IA

Un mes de noticias impulsadas por ChatGPT

El mes pasado estuvo claramente dominado por las noticias de ChatGPT, encabezadas por el anuncio de OpenAI de [$10b de nueva inversión](https:/ /www.bloomberg.com/news/articles/2023-01-23/microsoft-…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

GitHub Copilot, Copyright Infringement and Open Source Licensing

GitHub Copilot, Copyright Infringement and Open Source Licensing

Jun 2021 · 5 informes
DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

That AI Image Generator Is Spitting Out Some Awfully Racist Stuff

Jun 2022 · 4 informes
Bad AI-Written Christmas Carols

AI Incident Database Incidents Converted to Issues

Dec 2017 · 1 informe
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

GitHub Copilot, Copyright Infringement and Open Source Licensing

GitHub Copilot, Copyright Infringement and Open Source Licensing

Jun 2021 · 5 informes
DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

That AI Image Generator Is Spitting Out Some Awfully Racist Stuff

Jun 2022 · 4 informes
Bad AI-Written Christmas Carols

AI Incident Database Incidents Converted to Issues

Dec 2017 · 1 informe

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df