Registro de citas para el Incidente 466

Description: Models developed to detect whether text generation AI was used such as AI Text Classifier and GPTZero reportedly contained high rates of false positive and false negative, such as mistakenly flagging Shakespeare's works.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial
Presunto: un sistema de IA desarrollado e implementado por OpenAI y Edward Tian, perjudicó a Teachers y students.

Estadísticas de incidentes

ID
466
Cantidad de informes
7
Fecha del Incidente
2023-01-03
Editores
Khoa Lam
Tuit: @DannyRichman
twitter.com · 2023
  1. Creó un artículo usando GPT-3.
  2. Utilizó Originality AI para detectar si el contenido era AI o generado por humanos. Puntuación: 100% IA
  3. Solicitó a GPT-3 que reescribiera el artículo "para evitar la detección por parte de las herramientas de…
OpenAI no puede detectar su propio texto generado por ChatGPT la mayor parte del tiempo
vice.com · 2023

En respuesta a la creciente preocupación de los educadores sobre la capacidad de ChatGPT para ayudar a los estudiantes a hacer trampa, OpenAI lanzó el martes una herramienta que puede detectar texto escrito por IA. Sin embargo, la compañía …

Tuit: @rasbt
twitter.com · 2023

OpenAI acaba de lanzar el "clasificador de texto AI" para identificar textos generados por AI. Lo intente y NO FUNCIONA. https://platform.openai.com/ai-text-classifier

Usando mi libro Python ML publicado en 2015:

  1. Prólogo de @randal_olson: …
La herramienta de detección ChatGPT dice que Macbeth fue generado por IA. ¿Que pasa ahora?
venturebeat.com · 2023

ChatGPT lanzó ayer una nueva herramienta clasificadora para detectar texto generado por IA que, en unas pocas horas, demostró ser imperfecto, en el mejor de los casos. Resulta que cuando se trata de detectar IA generativa, ya sea texto o im…

Tuit: @samfbiddle
twitter.com · 2023

OpenAI está respondiendo a la preocupación generalizada sobre la tecnología que ofrece al mundo al lanzar un detector de texto de IA que es preciso el 26 % de las veces y arroja falsos positivos el 9 % de las veces.

Bienvenida

parece que el…

La ciencia de detectar textos generados por LLM
medium.com · 2023

Los avances recientes en la tecnología de generación de lenguaje natural (NLG) han mejorado significativamente la diversidad, el control y la calidad de los textos generados por LLM. Un ejemplo notable es ChatGPT de OpenAI, que demuestra un…

febrero 2023
raillc.substack.com · 2023

Un mes de noticias impulsadas por ChatGPT

El mes pasado estuvo claramente dominado por las noticias de ChatGPT, encabezadas por el anuncio de OpenAI de [$10b de nueva inversión](https:/ /www.bloomberg.com/news/articles/2023-01-23/microsoft-…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents