Incidente 575: Amazon está plagado de libros supuestamente generados por IA y de calidad sospechosa
Descripción: La lista de los libros más vendidos de romance juvenil Kindle Unlimited de Amazon se llenó de libros supuestamente generados por IA que tenían poco o ningún sentido, lo que alteró la clasificación. Se informó que estos libros estaban claramente destinados a ser objeto de un clic. A pesar de haber sido eliminados de la lista de los más vendidos, muchos permanecieron disponibles para su compra. El incidente generó inquietud sobre la integridad de la plataforma y el posible impacto financiero para los autores legítimos.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por unknown, perjudicó a Authors , Amazon Customers y Amazon.
Estadísticas de incidentes
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Informes del Incidente
Cronología de Informes
La lista de libros más vendidos de romance para adultos jóvenes Kindle Unlimited de Amazon estuvo llena con docenas de libros sin sentido generados por IA el lunes y martes. Hasta el miércoles por la mañana, Amazon parecía haber tomado medi…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?