Incidentes Asociados
La Fiscalía Municipal de San Francisco está tomando medidas contra sitios web acusados de crear y difundir desnudos deepfake, retirando los sitios de internet y enviando un mensaje claro.
La Fiscal Adjunta Principal de la Ciudad, Yvonne Meré, declaró a NBC Bay Area que el caso único que impugna la inteligencia artificial, presentado por ella, el Fiscal Municipal David Chiu y su oficina hace más de seis meses, ha desmantelado casi una docena de sitios web que crean y difunden desnudos deepfake.
"Los actores que analizamos ya no están en el negocio, y eso parece una victoria", declaró Meré. "Once de los sitios web que analizamos han cerrado, por lo que ya no existen".
Meré habló con NBC News en agosto pasado, cuando la Fiscalía Municipal presentó por primera vez el caso que impugnaba cómo se crean y difunden estas imágenes. En muchos casos, las imágenes contienen un rostro real, pero utilizan IA para crear un cuerpo falso.
En el momento en que se presentó el caso, esos sitios web recibieron cientos de millones de visitas en un año, afirmó Meré.
Aunque el caso sigue activo, ya se está convirtiendo en una victoria legal. Es una victoria personal y significativa para Meré, la primera fiscal adjunta latina de la ciudad de San Francisco y la segunda mujer en ocupar el cargo.
"Trabajamos muchísimas horas", dijo, "y al final, queremos que ese legado sirva para algo, para poder decirle a nuestro hijo: 'Mira, mamá trabajó en esto cuando eras pequeño'".
Fue la hija de Meré, que entonces tenía 15 años, quien me vino a la mente cuando leyó un artículo hace un año sobre una madre y su hija que luchan contra sitios web que proliferan desnudos falsos e incluso explotan a menores en pornografía infantil.
"Sabían que una imagen desnuda de su hija de 15 años estaba en el mundo, no podían recuperarla, ni siquiera sabían quién la creó", dijo Meré. "Ninguna persona, ningún sitio web, ninguna marca en esa foto".
Fue entonces cuando la Fiscalía Municipal de San Francisco decidió intervenir, siendo uno de los menos de 10 gobiernos locales con la capacidad de perseguir a las empresas bajo la Ley de Competencia Desleal de California.
"Para mí, es fundamental que el gobierno responda a sus ciudadanos, y este tipo de casos son una forma de decir que sabemos que algo anda mal y que les está perjudicando", dijo Meré.