Problema 3276

Un teléfono, algunas fotos e inteligencia artificial han generado controversia y destrozado la privacidad de varios adolescentes en una escuela secundaria de Nueva Jersey después de enterarse de que Imágenes de ellos desnudos, creadas mediante IA, circularon en chats grupales.

Por qué es importante: El incidente es un ejemplo conmovedor de las amenazas que conlleva el acceso no regulado y en expansión a la inteligencia artificial, dijeron los expertos. Axios.

Conduciendo las noticias: Algunas chicas adolescentes de Westfield High School en Nueva Jersey se enteraron el mes pasado de que se compartían imágenes falsas de ellas desnudas entre otros estudiantes, [informó el Wall Street Journal](https://www.wsj.com/tech/fake -desnudos-de-estudiantes-reales-causan-un-alboroto-en-una-escuela-secundaria-de-nueva-jersey-df10f1bb?mod=wknd_pos1).

• Se plantearon inquietudes a los administradores el 20 de octubre, pero las fotos se compartieron durante el verano, según un correo electrónico enviado a los padres por la directora de Westfield High, Mary Asfendis.
• La investigación y respuesta involucró al Departamento de Policía de Westfield, además del oficial de recursos, el departamento de consejería y la administración de la escuela.

Alejar: Westfield es solo un ejemplo de un problema con el que todos los distritos escolares están lidiando a medida que la omnipresencia de la tecnología, incluida la inteligencia artificial, impacta las vidas de los estudiantes, dijo el superintendente del distrito, Raymond González, en un comunicado.

• De enero a septiembre de este año, se subieron un 54 % más de vídeos pornográficos deepfake a los servidores de sitios web que en todo 2022, [informó Wired](https://www.wired.com/story/deepfake-porn-is-out -of-control/#:~:text=%E2%80%9CHay%20ha%20ha habido%20un crecimiento%20significativo,la Universidad%2C%20Australia%2C%20que%20se centra%20en).
• A principios de este año, los estudiantes del estado de Nueva York utilizaron inteligencia artificial para generar un video del director de una escuela secundaria haciendo un discurso racista, [informó el Washington Post](https://www.washingtonpost.com/nation/2023/03/14 /racista-deepfakes-carmel-tiktok/).

Contexto: La creación de deepfakes solía requerir cientos de miles de imágenes de una persona, dijo Hany Farid, profesor de la Universidad de California en Berkeley, que ha investigado la ciencia forense digital y el análisis de imágenes.

• Ahora basta con una foto para crear un deepfake, afirmó Farid, y las herramientas para crear este tipo de imágenes también se han vuelto más accesibles.
• Algunos de ellos se pueden utilizar sin siquiera introducir la información personal del usuario, como un número de teléfono, dijo.
• "Lo frustrante es que las personas que desarrollan estas tecnologías saben o deberían haber sabido que se van a utilizar de esta manera y no están haciendo lo suficiente para prevenir el abuso", afirmó.
• Cualquiera que tenga una foto singular de sí mismo en Internet es susceptible a que se cree un deepfake, dijo Farid.

Situación de la cuestión: Las imágenes deepfake han dañado la reputación de las personas y se han utilizado para extorsionar, y los expertos han estado advirtiendo sobre los riesgos durante años.

• "La situación va a empeorar porque las imágenes se están volviendo más realistas", dijo Farid.

Qué sigue: La tecnología que determina si una imagen es generada por IA ya existe, dijo Edward Delp, profesor de Universidad Purdue de ingeniería Eléctrica y Computación.

• Un paso futuro es agregar funciones que puedan detectar deepfakes en plataformas de redes sociales y sitios web ampliamente utilizados para evitar que se carguen.
• "Lo triste es que una vez que salga a la luz, habrá mucha gente que creerá que es real", dijo Delp.

Sí, pero cuando se utilizaron programas de este tipo en el pasado, se filtró material no sexual, como guías de lactancia materna, dijo.

Vale la pena señalar: Las transgresiones que involucran deepfakes son difíciles de procesar, a pesar de [aprobada](https://www.nysenate.gov/newsroom/press-releases/2023/michelle-hinchey/hinchey-bill-ban-non-consensual-deepfake- imágenes#:~:text=KINGSTON%2C%20NY%20%E2%80%93%20Senator%20Michelle%20Hinchey, una%20persona%20sin%20su%20consentimiento.) y [propuesto](https://www.axios .com/2019/01/31/deepfake-laws) que tiene como objetivo el intercambio de imágenes y vídeos explícitos falsificados.

• En Westfield, las familias de cuatro sujetos con deepfakes hechos de ellos presentaron informes policiales, y un senador de Nueva Jersey pidió a los fiscales del condado que investiguen el incidente de la escuela secundaria, según el WSJ.