Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 466: Se informa que las herramientas de detección de texto generadas por IA tienen altos índices de error

Traducido por IA
Descripción:
Traducido por IA
Los modelos desarrollados para detectar si se utilizó inteligencia artificial de generación de texto, como AI Text Classifier y GPTZero, supuestamente contenían altas tasas de falsos positivos y falsos negativos, como marcar por error las obras de Shakespeare.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por OpenAI y Edward Tian, perjudicó a Teachers y students.

Estadísticas de incidentes

ID
466
Cantidad de informes
7
Fecha del Incidente
2023-01-03
Editores
Khoa Lam
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

Incident OccurrenceTuit: @DannyRichmanOpenAI no puede detectar su propio texto generado por ChatGPT la mayor parte del tiempo+2
Tuit: @rasbt
La ciencia de detectar textos generados por LLMfebrero 2023
Tuit: @DannyRichman

Tuit: @DannyRichman

twitter.com

OpenAI no puede detectar su propio texto generado por ChatGPT la mayor parte del tiempo

OpenAI no puede detectar su propio texto generado por ChatGPT la mayor parte del tiempo

vice.com

Tuit: @rasbt

Tuit: @rasbt

twitter.com

La herramienta de detección ChatGPT dice que Macbeth fue generado por IA. ¿Que pasa ahora?

La herramienta de detección ChatGPT dice que Macbeth fue generado por IA. ¿Que pasa ahora?

venturebeat.com

Tuit: @samfbiddle

Tuit: @samfbiddle

twitter.com

La ciencia de detectar textos generados por LLM

La ciencia de detectar textos generados por LLM

medium.com

febrero 2023

febrero 2023

raillc.substack.com

Tuit: @DannyRichman
twitter.com · 2023
Traducido por IA
  1. Creó un artículo usando GPT-3.
  2. Utilizó Originality AI para detectar si el contenido era AI o generado por humanos. Puntuación: 100% IA
  3. Solicitó a GPT-3 que reescribiera el artículo "para evitar la detección por parte de las herramientas de…
OpenAI no puede detectar su propio texto generado por ChatGPT la mayor parte del tiempo
vice.com · 2023
Traducido por IA

En respuesta a la creciente preocupación de los educadores sobre la capacidad de ChatGPT para ayudar a los estudiantes a hacer trampa, OpenAI lanzó el martes una herramienta que puede detectar texto escrito por IA. Sin embargo, la compañía …

Tuit: @rasbt
twitter.com · 2023
Traducido por IA

OpenAI acaba de lanzar el "clasificador de texto AI" para identificar textos generados por AI. Lo intente y NO FUNCIONA. https://platform.openai.com/ai-text-classifier

Usando mi libro Python ML publicado en 2015:

  1. Prólogo de @randal_olson: …
La herramienta de detección ChatGPT dice que Macbeth fue generado por IA. ¿Que pasa ahora?
venturebeat.com · 2023
Traducido por IA

ChatGPT lanzó ayer una nueva herramienta clasificadora para detectar texto generado por IA que, en unas pocas horas, demostró ser imperfecto, en el mejor de los casos. Resulta que cuando se trata de detectar IA generativa, ya sea texto o im…

Tuit: @samfbiddle
twitter.com · 2023
Traducido por IA

OpenAI está respondiendo a la preocupación generalizada sobre la tecnología que ofrece al mundo al lanzar un detector de texto de IA que es preciso el 26 % de las veces y arroja falsos positivos el 9 % de las veces.

Bienvenida

parece que el…

La ciencia de detectar textos generados por LLM
medium.com · 2023
Traducido por IA

Los avances recientes en la tecnología de generación de lenguaje natural (NLG) han mejorado significativamente la diversidad, el control y la calidad de los textos generados por LLM. Un ejemplo notable es ChatGPT de OpenAI, que demuestra un…

febrero 2023
raillc.substack.com · 2023
Traducido por IA

Un mes de noticias impulsadas por ChatGPT

El mes pasado estuvo claramente dominado por las noticias de ChatGPT, encabezadas por el anuncio de OpenAI de [$10b de nueva inversión](https:/ /www.bloomberg.com/news/articles/2023-01-23/microsoft-…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

GitHub Copilot, Copyright Infringement and Open Source Licensing

GitHub Copilot, Copyright Infringement and Open Source Licensing

Jun 2021 · 5 informes
DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

Jun 2022 · 4 informes
Bad AI-Written Christmas Carols

Bad AI-Written Christmas Carols

Dec 2017 · 1 informe
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

GitHub Copilot, Copyright Infringement and Open Source Licensing

GitHub Copilot, Copyright Infringement and Open Source Licensing

Jun 2021 · 5 informes
DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

DALL-E Mini Reportedly Reinforced or Exacerbated Societal Biases in Its Outputs as Gender and Racial Stereotypes

Jun 2022 · 4 informes
Bad AI-Written Christmas Carols

Bad AI-Written Christmas Carols

Dec 2017 · 1 informe

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178