Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Problema 1589

Incidentes Asociados

Incidente 1854 Reportes
TikTok's "For You" Algorithm Directed New Users towards Disinformation about the War in Ukraine

Loading...
WarTok: TikTok está proporcionando desinformación de guerra a los nuevos usuarios en cuestión de minutos, incluso si no buscan contenido relacionado con Ucrania.
newsguardtech.com · 2022

TikTok está enviando contenido falso y engañoso sobre la guerra en Ucrania a los usuarios dentro de los 40 minutos posteriores a su registro en la aplicación, independientemente de si realizan alguna búsqueda en la plataforma, según descubrió una investigación de NewsGuard.

Además, NewsGuard descubrió que la búsqueda de términos genéricos relacionados con el conflicto, como "Ucrania" o "Donbas", llevó a TikTok a sugerir múltiples videos que contenían desinformación en sus 20 resultados principales.

Los hallazgos de NewsGuard se suman al cuerpo de evidencia de que la falta de moderación y etiquetado de contenido efectivo de TikTok, junto con su habilidad para empujar a los usuarios a contenido que los mantiene en la aplicación, han hecho que la plataforma sea un terreno fértil para la difusión de desinformación.

Doom desplazándose por la madriguera de la desinformación de la guerra

En marzo de 2022, un equipo de seis analistas de NewsGuard creó nuevas cuentas en TikTok y realizó dos experimentos diseñados para imitar el uso normal de la aplicación. En el primer experimento, se indicó a los analistas que se desplazaran por el feed personalizado "Para ti" de TikTok durante 45 minutos, viendo los videos relacionados con el conflicto entre Rusia y Ucrania en su totalidad, pero sin seguir ninguna cuenta ni realizar ninguna búsqueda.

A los 40 minutos de unirse a TikTok, a todos los analistas de NewsGuard se les mostró contenido falso o engañoso sobre la guerra en Ucrania.

Entre estas afirmaciones se encontraban falsedades tanto a favor de Rusia como a favor de Ucrania:

Falsedades difundidas por el Kremlin:

  • La falsa afirmación de que las imágenes de la guerra en Ucrania son falsas

  • La falsa afirmación de que Ucrania está dirigida por una junta neonazi

  • La falsa afirmación de que Estados Unidos tiene laboratorios de armas biológicas en Ucrania

  • La falsa afirmación de que Vladimir Putin y Rusia no son los agresores en este conflicto, y que Estados Unidos orquestó la revolución de 2014 * en Ucrania

Otras falsedades:

  • La falsa afirmación de que las fuerzas estadounidenses están “en camino” a Ucrania

  • La afirmación falsa de que Putin fue "modificado con Photoshop" en imágenes de una conferencia de prensa que dio el 5 de marzo de 2022, para ocultar el hecho de que no estaba en Moscú.

  • Imágenes del presidente de Ucrania, Zelensky, "luchando por su país", que en realidad se filmaron en 2021

  • Imágenes del "Fantasma de Kyiv" derribando seis aviones rusos, que en realidad era del videojuego Digital Combat Simulator

  • Imágenes de un tiroteo “del ejército ucraniano contra Rusia”, que en realidad datan de 2015 y muestran a las tropas del gobierno ucraniano luchando contra los rebeldes prorrusos en el este del país.

Algunos de los mitos en los videos que el algoritmo de TikTok envió a los analistas se identificaron previamente como propaganda del Kremlin en el Centro de seguimiento de desinformación de Rusia y Ucrania de NewsGuard.

Por ejemplo, a los 29 minutos de unirse a TikTok, a un analista de habla francesa se le mostró un video de un discurso de Vladimir Putin en el que afirmaba que "los neonazis de hoy han tomado el poder en Ucrania" y que la responsabilidad de cualquier derramamiento de sangre en el país recae en esos. en el poder en Ucrania. Al 14 de marzo de 2022, este video había sido visto 1,7 millones de veces y compartido más de 15 000 veces.

En 36 minutos, al mismo analista se le mostró un video, publicado el 5 de marzo, de un hombre que afirmaba que “todas las imágenes de esta pseudoguerra son falsas. No hay imágenes que salgan de Ucrania, incluso los soldados rusos Spetsnaz no pueden tener teléfonos inteligentes para filmar nada, por lo que todas las imágenes que viste en los medios son falsas”.

Hasta el 14 de marzo de 2022, nueve días después de su publicación, el video había sido visto 153 000 veces.

Otros videos pintaron una imagen engañosa del dominio militar ucraniano, incluidas imágenes de videojuegos que pretendían mostrar imágenes del mundo real de un avión de combate ucraniano, conocido como “el Fantasma de Kyiv”, derribando seis aviones rusos.

Hacia el final del experimento de 45 minutos, los feeds de los analistas se llenaron casi exclusivamente con contenido tanto exacto como falso relacionado con la guerra en Ucrania, sin distinción entre desinformación y fuentes confiables.

En un momento en que las narrativas falsas sobre el conflicto entre Rusia y Ucrania proliferan en línea, ninguno de los videos que el algoritmo de TikTok envió a nuestros analistas contenía información sobre la confiabilidad de la fuente, advertencias, verificaciones de hechos o información adicional que podría empoderar a los usuarios. con información confiable.

Los resultados de búsqueda de TikTok sobre Ucrania mezclan la propaganda del Kremlin con fuentes confiables

El segundo experimento requirió que los analistas de NewsGuard buscaran términos genéricos que podrían usar los usuarios de TikTok que buscaban información sobre el conflicto. Los términos de búsqueda fueron: Ucrania, Rusia, Guerra, Kyiv y Donbas.

La función de búsqueda de TikTok sugirió videos que contenían afirmaciones falsas o engañosas en los 20 resultados principales cuando los analistas buscaron al menos uno de estos términos.

Por ejemplo, el segundo video de veinte en una búsqueda de "Ucrania" realizada por un analista italiano de NewsGuard mostró un video que contenía la afirmación falsa, también difundida por el Kremlin, de que la guerra en Ucrania fue el resultado de un genocidio en Donbas. perpetrado por las autoridades ucranianas.

La búsqueda de "Donbas" resultó en que TikTok completara los resultados de un analista con sede en EE. UU. con un video que afirmaba erróneamente que los neonazis están "en todas partes" en Ucrania y que "el gobierno ucraniano usa las milicias neonazis para mantener el control de Ucrania". El video fue el quinto resultado sugerido.

Además de la clara desinformación en los resultados de búsqueda de TikTok, la plataforma también sugirió fuentes confiables a los analistas de NewsGuard, incluidos Sky News y The Telegraph.

Si bien las fuentes confiables tienden a "verificarse" en TikTok con una marca azul, su contenido aún aparece junto con otros videos que contienen reclamos de propaganda del Kremlin en los resultados de búsqueda de las plataformas, sin que se haga ninguna otra distinción entre los dos. En particular, TikTok no incluye información sobre la confiabilidad de las fuentes de noticias en su plataforma.

Además, a pesar del bloqueo de TikTok del canal de propaganda estatal ruso RT desde su plataforma, la editora en jefe de RT, Margarita Simonyan, también lleva la marca azul "verificado" en su perfil, que acumuló 13,5 millones de visitas de 16 videos publicados sobre el conflicto en una semana según lo informado por el Instituto para el Diálogo Estratégico, un grupo de expertos que estudia el extremismo.

TikTok sigue siendo un terreno fértil para la desinformación peligrosa, alimentada a una audiencia joven

TikTok ha tenido un aumento meteórico en popularidad desde su lanzamiento en 2017. A fines de 2021, la aplicación celebró atraer a más de mil millones de usuarios activos mensuales, frente a los 85 millones a principios de 2018, lo que la convierte en la primera aplicación fuera de Facebook en alcanzar ese hito.

Según Statista, una cuarta parte de los usuarios de la aplicación en los EE. UU. en 2021 tenían entre 10 y 19 años, a pesar de la afirmación de TikTok de que limita el uso de su aplicación a niños mayores de 13 años. Bloomberg ha informado que aproximadamente el 30 por ciento de los TikTok franceses los usuarios son menores de 18 años, al igual que un tercio de los usuarios italianos y casi una cuarta parte de los usuarios alemanes.

A pesar de ser propiedad y ser operado por ByteDance, un conglomerado de Internet chino propiedad parcial del gobierno chino, TikTok no está disponible en China. En cambio, los usuarios chinos pueden acceder a Douyin, un servicio casi idéntico que prohíbe el contenido "políticamente sensible", según el Citizen Lab de la Universidad de Toronto.

TikTok también ha sido acusado de censurar contenido que no se alinea con los puntos de vista del gobierno chino. Por ejemplo, en 2019, documentos internos filtrados de TikTok mostraron que la plataforma censuraba contenido relacionado con la plaza de Tiananmen, la independencia tibetana y otros temas delicados.

Más allá de la conexión de TikTok con China, el Centro de seguimiento de desinformación Rusia-Ucrania de NewsGuard descubrió que los sitios web de noticias respaldados por el estado chino han informado sin críticas sobre la afirmación de la propaganda del Kremlin de que Estados Unidos ha financiado laboratorios de armas biológicas en Ucrania.

Con la alineación ambigua del gobierno chino con Rusia con respecto a la invasión de Ucrania, y ciertos sitios respaldados por el estado chino que repiten acríticamente la propaganda del Kremlin, no está claro si la propiedad de la plataforma por parte de los chinos afectará las decisiones de contenido de Rusia y Ucrania tomadas por TikTok en las próximas semanas. y meses

Metodología

Ejercicio de desplazamiento:

Seis analistas de NewsGuard ubicados en Suiza, Italia, Alemania, EE. UU. y el Reino Unido eliminaron e instalaron TikTok y crearon nuevas cuentas.

Sin seguir ninguna cuenta ni realizar ninguna búsqueda, se desplazaron por el feed "Para ti" de TikTok. Se instruyó a los analistas para que se detuvieran y miraran los videos relacionados con Ucrania y Rusia en su totalidad. Todos los videos mencionados en la sección de desplazamiento de este experimento fueron sugeridos a los analistas por el algoritmo de recomendación de TikTok.

Ejercicio de búsqueda:

Cinco analistas de NewsGuard realizaron búsquedas utilizando los términos de búsqueda mencionados en la sección de búsqueda de este experimento. Los analistas eliminaron y reinstalaron TikTok y crearon nuevas cuentas para cada búsqueda. Los resultados se encontraron utilizando grabaciones de pantalla de cada búsqueda.

Leer la Fuente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2024 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd