Incidentes Asociados
El programa impulsado por IA permitió a los usuarios editar selfies para encajar en las categorías 'Caucásica, Asiática, India o Negra', lo que provocó indignación y un cambio de sentido inmediato.
FaceApp, el popular programa de autofotos impulsado por inteligencia artificial, se vio obligado a extraer nuevos filtros que permitían a los usuarios modificar sus imágenes para que parecieran diferentes razas, solo unas horas después de su lanzamiento.
La aplicación, que inicialmente se hizo famosa por sus funciones que permiten a los usuarios editar imágenes para parecer mayores o más jóvenes, o agregar una sonrisa, lanzó los nuevos filtros alrededor del mediodía del miércoles. Permitieron que un usuario editara su imagen para que se ajustara a una de cuatro categorías: caucásico, asiático, indio o negro.
Parker Molloy (@ParkerMolloy) Los 'filtros de etnicidad' de FaceApp son una idea bastante terrible. Como, tal vez una de las peores ideas. https://t.co/kV09pNpWRs
Los usuarios señalaron rápidamente que la función no se manejó de manera particularmente sensible: el sitio de tecnología The Verge la describió como "equivalente a una especie de cara negra digital, 'disfrazándose' de diferentes etnias", mientras que TechCruch dijo que la aplicación "parece estar recibiendo un demasiado centrado en las razas en lugar de las caras”.
Alex Nichols (@Lowenaffchen) yo y mis tres medios hermanos étnicamente diversos condenamos inequívocamente los nuevos filtros de la aplicación facial pic.twitter.com/uMNfIrb73f
Inicialmente, la compañía emitió un comunicado en el que argumentaba que los "filtros de cambio de etnicidad" estaban "diseñados para ser iguales en todos los aspectos".
“No tienen connotaciones positivas o negativas asociadas con ellos”, dijo el director ejecutivo de la compañía, Yaroslav Goncharov. “Incluso están representados por el mismo ícono. Además de eso, la lista de esos filtros se mezcla para cada foto, por lo que cada usuario los ve en un orden diferente”.
Pero a las 5 p. m. del mismo día, FaceApp aparentemente estuvo de acuerdo con las críticas y retiró los nuevos filtros de su aplicación. No estaban disponibles para los usuarios unas horas más tarde.
Lucas Matney (@lucasmtny) Wow... FaceApp realmente establece el estándar para AR racista con su horrible nueva actualización que incluye "filtros raciales" negros, indios y asiáticos pic.twitter.com/Lo5kmLvoI9
Ni siquiera es la primera vez que la aplicación se mete en esta tormenta. En abril, fue criticado por su filtro "caliente", que se suponía que haría que los usuarios se vieran más atractivos. En el proceso, también aclaró su tez, lo que generó preguntas incómodas sobre lo que se le había enseñado a la IA sobre la naturaleza de la belleza.
No son solo las aplicaciones pequeñas las que cometen estos errores. Snapchat enfrentó un oprobio similar por un filtro que hacía que los usuarios parecieran el difunto cantante de reggae Bob Marley, repleto de rastas de dibujos animados y una gorra; Además, el filtro se lanzó el 20 de abril de 2016, un día ("4/20") conocido por su asociación con la cultura de la marihuana, lo que generó acusaciones de que la compañía estaba abaratando el legado de Marley.