Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 1213: Según se informa, el monitoreo de inteligencia artificial de Gaggle en la escuela secundaria de Lawrence, Kansas, marca incorrectamente el contenido de los estudiantes y bloquea los correos electrónicos.

Traducido por IA
Descripción:
Traducido por IA
En Lawrence, Kansas, estudiantes alegan que la IA de Gestión de Seguridad de Gaggle marcó erróneamente trabajos escolares inofensivos, incluyendo fotos artísticas y mensajes casuales, como pornografía infantil o amenazas. Según informes, el sistema eliminó contenido, bloqueó una solicitud de registros de correo electrónico y dio lugar a interrogatorios de estudiantes. Los críticos citan efectos intimidatorios y riesgos para la privacidad. Una demanda presentada en agosto de 2025 impugna el uso de Gaggle por parte del distrito como vigilancia inconstitucional. Según informes, Gaggle niega haber comprometido la privacidad.
Editor Notes: The underlying reported events associated with this case occurred during the Lawrence Public Schools' deployment of the Gaggle Safety Management system between late 2023 and 2024. Specific reported harms include the misclassification and deletion of student art, the blocking of a records request, and questioning of students for flagged content. The federal lawsuit challenging the district's use of Gaggle was filed on 08/01/2025, which is taken here as the incident date of record. Subsequent coverage by The Washington Post on 09/24/2025 summarized the allegations and student accounts. This report was ingested into the AI Incident Database on 09/29/2025.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Gaggle developed an AI system deployed by Lawrence Public Schools (USD 497), which harmed Lawrence Public Schools (USD 497) students.
Sistema de IA presuntamente implicado: Gaggle

Estadísticas de incidentes

ID
1213
Cantidad de informes
1
Fecha del Incidente
2025-08-01
Editores
Daniel Atherton

Informes del Incidente

Cronología de Informes

Incident OccurrenceUna herramienta de seguridad con inteligencia artificial genera reacciones negativas entre los estudiantes tras marcar obras de arte como pornografía y eliminar correos electrónicos.
Loading...
Una herramienta de seguridad con inteligencia artificial genera reacciones negativas entre los estudiantes tras marcar obras de arte como pornografía y eliminar correos electrónicos.

Una herramienta de seguridad con inteligencia artificial genera reacciones negativas entre los estudiantes tras marcar obras de arte como pornografía y eliminar correos electrónicos.

washingtonpost.com

Loading...
Una herramienta de seguridad con inteligencia artificial genera reacciones negativas entre los estudiantes tras marcar obras de arte como pornografía y eliminar correos electrónicos.
washingtonpost.com · 2025
Traducido por IA

Los estudiantes de una preparatoria de Kansas a veces se preocupan al escribir presentaciones o correos electrónicos a sus profesores. Se detienen a reflexionar. Se preguntan: "¿Esto será detectado por Gaggle?".

Todo lo que los estudiantes …

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
Incidente AnteriorSiguiente Incidente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 6f6c5a5