Incidentes Asociados
Las imágenes explícitas no consensuadas de adultos y menores reales generadas por IA causan daños inconmensurables y violan las leyes estatales y federales
SAN FRANCISCO (15 de agosto de 2024) --- El fiscal de la ciudad de San Francisco, David Chiu, anunció hoy una demanda, la primera de su tipo, contra algunos de los sitios web más grandes del mundo que crean y distribuyen pornografía no consensuada generada por IA. La proliferación de imágenes pornográficas deepfake no consensuadas ha explotado a mujeres y niñas reales en todo el mundo. La demanda, presentada contra los propietarios de 16 de los sitios web más visitados que invitan a los usuarios a crear imágenes de desnudos no consensuados de mujeres y niñas, alega que los propietarios y operadores de los sitios web violan las leyes estatales y federales que prohíben la pornografía deepfake, la pornografía de venganza y la pornografía infantil.
"Esta investigación nos ha llevado a los rincones más oscuros de internet, y estoy absolutamente horrorizado por las mujeres y niñas que han tenido que soportar esta explotación", declaró el fiscal de la ciudad, David Chiu. La IA generativa es muy prometedora, pero como ocurre con todas las nuevas tecnologías, conlleva consecuencias imprevistas y delincuentes que buscan explotarla. Debemos tener muy claro que esto no es innovación, sino abuso sexual. Se trata de un problema grave y multifacético que, como sociedad, debemos resolver cuanto antes. Todos debemos poner de nuestra parte para acabar con quienes utilizan la IA para explotar y abusar de personas reales, incluidos niños.
Antecedentes
La disponibilidad de modelos de IA gratuitos, sofisticados y de código abierto ha permitido a los delincuentes explotar, entrenar y desarrollar estos modelos para sus propios fines. Actualmente, los delincuentes han entrenado modelos de generación de imágenes de IA con imágenes pornográficas y materiales de abuso sexual infantil, de modo que puedan utilizarse para generar imágenes de desnudos de mujeres y niñas reales e identificables sin su consentimiento.
Este inquietante fenómeno ha afectado a mujeres y niñas en California y otros lugares, causando un daño inconmensurable a todos, desde Taylor Swift y celebridades de Hollywood, hasta estudiantes de secundaria y preparatoria. Por ejemplo, en febrero de 2024, imágenes de desnudos no consensuados generadas por IA de 16 estudiantes de octavo grado circularon entre estudiantes de una escuela secundaria de California.
Estas imágenes, prácticamente indistinguibles de las fotografías reales, se utilizan para extorsionar, intimidar, amenazar y humillar a mujeres y niñas. El FBI también ha advertido sobre un aumento en los esquemas de extorsión que utilizan pornografía no consensuada generada por IA. Peor aún, las víctimas de pornografía deepfake no consentida prácticamente no han encontrado ningún recurso ni posibilidad de controlar su propia imagen tras la distribución de imágenes deepfake.
Los demandados poseen y operan 16 de los sitios web más visitados del mundo que ofrecen imágenes de mujeres y niñas "desnudas". Estos sitios web ofrecen interfaces intuitivas para subir imágenes de personas reales vestidas y generar versiones pornográficas realistas. Estos sitios web requieren que los usuarios se suscriban o paguen para generar imágenes de desnudos, lucrando con imágenes pornográficas no consentidas de niños y adultos. En conjunto, estos sitios web han recibido más de 200 millones de visitas solo en el primer semestre de 2024.
Algunos sitios web permiten a los usuarios crear imágenes pornográficas no consentidas solo de adultos, pero otros permiten a los usuarios crear imágenes pornográficas no consentidas de niños.
El sitio web de uno de los demandados promueve específicamente la naturaleza no consentida de las imágenes, afirmando: "Imagina perder el tiempo invitándola a citas, cuando puedes usar [sitio web] para obtener sus fotos desnudas". La demanda, presentada en nombre del Pueblo del Estado de California, alega violaciones de las leyes estatales y federales que prohíben la pornografía deepfake, la pornografía de venganza y la pornografía infantil, así como violaciones de la Ley de Competencia Desleal de California. El Pueblo solicita la eliminación de los sitios web de los Demandados, así como una medida cautelar para impedirles permanentemente participar en esta conducta ilegal. La demanda también solicita sanciones civiles y el pago de las costas judiciales.
El caso es Pueblo del Estado de California contra Sol Ecom, Inc., et al., Tribunal Superior de San Francisco. Puede encontrar una versión redactada de la demanda [aquí] (https://www.sfcityattorney.org/wp-content/uploads/2024/08/2024-08-16-First-Amended-Complaint_Redacted.pdf).
Consejos
Cualquier persona que haya sido víctima de pornografía deepfake no consentida o que tenga información relevante puede contactar a la Fiscalía Municipal a través de su portal web de quejas del consumidor o a través de su línea directa al (415) 554-3977.