Blog de AIID

Resumen de incidentes de IA: mayo y junio del 23

Traducido por IA
Ver Original Posted 2023-07-18 by Janet Schwartz & Khoa Lam.

Lea nuestro boletín de revisión mensual que resume los nuevos incidentes en la base de datos de incidentes de IA y observa las tendencias.


🗄 Tendencias en la base de datos

Con la creciente proliferación de herramientas de IA generativa, estamos viendo una tendencia continua de errores fácticos y falsificaciones profundas posicionadas como información errónea. Esta primavera, surgieron falsificaciones políticas profundas en las elecciones y campañas presidenciales. Mientras tanto, los resultados de los chatbots supuestamente generaron jurisprudencia inexistente y acusaron a los fotógrafos de crímenes de guerra.

El incidente 545 destaca otro tipo de datos que estamos rastreando en la base de datos: "problemas" de IA que presagian incidentes de IA. En este caso, Vice informó a fines de mayo que la Asociación Nacional de Trastornos de la Alimentación (NEDA, por sus siglas en inglés) decidió reemplazar a los trabajadores del personal de la línea de ayuda para trastornos de la alimentación con un chatbot llamado Tessa. Solo unos días después, Vice y muchos otros medios de comunicación informaron que NEDA deshabilitó su línea de ayuda por respuestas supuestamente "dañinas". Este ejemplo muestra cómo el AIID captura los riesgos a medida que pasan de un incidente en espera a un daño realizado.


🗞️ Nuevos incidentes

Chatbots

  • #541: ChatGPT supuestamente produjo jurisprudencia judicial falsa presentada por un asesor legal en la corte
  • #545: Chatbot Tessa brinda consejos dietéticos no autorizados a usuarios que buscan ayuda para trastornos alimentarios
  • #548: Se informa que la IA basada en GPT de Opera acusó a los fotógrafos de guerra de crímenes de guerra
  • #539: My AI de Snapchat denunciado por carecer de protección para los niños
  • #549: Los chatbots con IA de las cadenas de comida rápida no ayudaron a los solicitantes de empleo a programar entrevistas
  • #552: Bing Chat resolvió CAPTCHA con la función de análisis de imágenes a pesar de las medidas de seguridad


Deepfakes

  • #543: Deepfake de explosión cerca del edificio de la administración militar de EE. UU. supuestamente causa caída de las acciones
  • #544: Deepfakes y desinformación generada por IA en las elecciones presidenciales de Turquía de 2023
  • #547: La campaña de Ron DeSantis lanzó un video de Twitter que contiene imágenes de IA para difamar a Donald Trump
  • #551: El FBI informó aumento de casos de extorsión de medios de inteligencia artificial que presentan actividades sexuales explícitas


Vehículos autónomos

  • #533: Tesla FSD identificó erróneamente un camión que transportaba semáforos como rastro de semáforos
  • #550: Tesla supuestamente en piloto automático golpeó a estudiante de secundaria que salía del autobús escolar
  • #540: Tesla no cedió el paso al peatón detectado en el cruce de peatones, supuestamente violó la ley de tránsito


Sesgo

  • #535: Modelos de detección y pronóstico de COVID-19 supuestamente marcados por fallas metodológicas y sesgos subyacentes
  • #546: Algoritmo para Distribuir Bienestar Social Reportado por Simplificar Vulnerabilidad Económica

Otros

  • #536: El uso de software de modelado por parte de NJ Transit calculó mal el nivel de amenaza de marejada ciclónica
  • #553: El uso de software de modelado de NJ Transit calculó mal el nivel de amenaza de marejada ciclónica Panel de descripción general de Google para el artista Edward Hopper Imagen destacada generada con su estilo por IA
  • #554: Los resultados de Google para Johannes Vermeer presentaron la versión AI de su obra de arte como resultado principal


👇 Profundizando más


🦾 Apoya nuestros esfuerzos

¿Sigues leyendo? ¡Ayúdanos a cambiar el mundo para mejor!

  1. Comparte este boletín en LinkedIn, Twitter y Facebook
  2. Envía incidentes a la base de datos
  3. Contribuye a la funcionalidad de la base de datos