Incidentes Asociados
Después de que una imagen falsa del Pentágono en llamas [se volvió viral](https://siliconangle.com/2023/05/22/stock-market-wobbles-ai-generated-image-pentagon-explosion-appears-verified-twitter- cuentas/) Recientemente, Twitter Inc. ha decidido que la plataforma necesita armarse mejor contra tan profundas trampas falsas.
La imagen generada por inteligencia artificial fue vista por suficientes personas como para alterar brevemente el mercado de valores. Algunos sitios web de noticias informaron sobre el incidente y luego se disculparon cuando se supo que definitivamente no había habido explosión en el Pentágono. Fue visto y aparentemente creído por muchas, muchas personas.
Toda la debacle fue un testimonio de cómo la IA realista puede crear eventos falsos y cómo tales eventos pueden, de alguna manera, aunque solo sea por un corto tiempo, sacudir el mundo. Con razón, se ha hablado mucho en los últimos años sobre el peligro de la tecnología deep fake en la era de la guerra de la información. Recientemente, una imagen del Papa vestido como una estrella del rap fue viral, que, aunque inofensivo, fue tan bien hecho que uno solo puede imaginar el caos que esta tecnología causará ahora y en el futuro cercano.
Twitter anunció hoy que está agregando una nueva característica que puede ayudar. Hay pocas posibilidades de que esas imágenes nunca vuelvan a aparecer en la plataforma, pero Twitter dijo que una forma de lidiar con las falsificaciones profundas es expandir sus [Notas de la comunidad] (https://help.twitter.com/en/using-twitter/community- notas) herramienta. Hasta ahora, las Notas de la comunidad han estado disponibles para los miembros del público (Twitter no tiene aportes) para que puedan agregar contexto a los tweets engañosos. Para los usuarios habituales de Twitter, la función ha sido muy útil, teniendo en cuenta todos los tuits incendiarios que no explican el contexto. Twitter ahora aplicará este detector de mentiras a las imágenes.
“Desde imágenes generadas por IA hasta videos manipulados, es común encontrarse con medios engañosos”, explicó la compañía. “Hoy estamos probando una función que pone un superpoder en manos de los colaboradores: Notes on Media”.
Cuando los usuarios crean que una imagen es potencialmente engañosa, ahora podrán hacer clic en la pestaña "Acerca de la imagen". Luego, los usuarios podrán escribir información adicional específicamente relacionada con la imagen, y esa nueva información aparecerá debajo de las imágenes coincidentes enviadas a través de la plataforma.
“Actualmente tiene la intención de errar por el lado de la precisión al hacer coincidir las imágenes, lo que significa que es probable que no coincida con todas las imágenes que le parezcan coincidentes”, explicó la compañía. “Trabajaremos para ajustar esto para ampliar la cobertura y evitar coincidencias erróneas”. También dijo que en algún momento pronto, la misma función estará disponible para múltiples imágenes y videos. No hay duda de que el botón de la imagen se desgastará muy rápidamente.