Incidentes Asociados
Los peligros de la tecnología de inteligencia artificial se han hecho evidentes en Westfield después de que circularan imágenes pornográficas falsas de estudiantes en la escuela secundaria local.
Las imágenes se crearon utilizando fotografías reales de las redes sociales en una aplicación de inteligencia artificial a la que es sorprendentemente fácil de acceder y usar. La creación de este tipo de fotografías alteradas se conoce como 'deepfakes'. En muchos casos, resulta difícil darse cuenta de que las fotografías no son reales.
Los padres del distrito fueron notificados por correo electrónico por parte del director de la escuela.
CBS 2 obtuvo una copia de ese correo electrónico, dice:
"Hoy temprano, los estudiantes nos informaron que algunos de nuestros estudiantes habían usado Inteligencia Artificial para crear imágenes pornográficas a partir de fotografías originales. Había una gran preocupación sobre quién había creado imágenes de ellas y si se compartían. En este momento, Creemos que todas las imágenes creadas han sido eliminadas y no están circulando".
Los funcionarios escolares han estado notificando a los padres de los estudiantes involucrados y están pidiendo a cualquiera que crea que es una víctima que se presente y se comunique con la policía de Westfield.
Los padres de las víctimas dicen que el incidente ha sacudido al alumnado femenino y exigen que se establezcan salvaguardias.
El superintendente escolar, Dr. Raymond González, dice que el distrito ya está educando a los estudiantes sobre los peligros de esta tecnología y el daño que puede causar a sus compañeros. Dijo en un comunicado que el distrito está implementando medidas de seguridad para evitar que se utilice o se acceda a la tecnología de inteligencia artificial en la red escolar y en los dispositivos proporcionados por la escuela.
Una madre le dijo al Wall Street Journal que su hija no quiere asistir a la escuela con los niños que fueron responsables de hacer y difundir las fotografías.
Si bien la policía de Westfield está al tanto del incidente, no ha comentado sobre ninguna investigación. Los funcionarios escolares dicen que tampoco pueden comentar sobre cuántos estudiantes se vieron afectados ni sobre las medidas disciplinarias que se han tomado.
Luchas con las tecnologías de inteligencia artificial emergentes
El presidente Joe Biden firmó una orden ejecutiva sobre inteligencia artificial la semana pasada.
"La IA está a nuestro alrededor", dijo Biden, "para hacer realidad la promesa de la IA y evitar el riesgo, debemos gobernar esta tecnología".
La orden es un paso inicial destinado a garantizar que la IA sea confiable y útil, en lugar de engañosa y destructiva.
La orden, que probablemente necesitará ser reforzada por una acción del Congreso, busca orientar cómo se desarrolla la IA para que las empresas puedan obtener ganancias sin poner en peligro la seguridad pública.
Muchos desconfían de la tecnología de IA
Debido a su uso para crear deepfakes y ayudar en numerosas estafas a consumidores, la desconfianza del público en la IA está creciendo.
Una nueva encuesta de The Associated Press-NORC Center for Public Affairs Research y la Escuela Harris de Políticas Públicas de la Universidad de Chicago encuentra que la mayoría de los adultos estadounidenses cree que las herramientas de inteligencia artificial aumentarán la difusión de información falsa y engañosa en las elecciones presidenciales de 2024.
La encuesta revela que sólo el 30% de los adultos ha utilizado chatbots de IA o generadores de imágenes y menos de la mitad ha oído o leído al menos algo sobre las herramientas de IA.
Sin embargo, la mayoría de los adultos dicen que creen que los candidatos políticos que utilizan la IA para diversos fines es una mala idea.