Incidentes Asociados
A medida que Ghana se acerca a sus elecciones presidenciales el 7 de diciembre, los investigadores han descubierto una red de 171 cuentas de bots en X que usan ChatGPT para escribir publicaciones favorables al partido político en el poder, el Nuevo Partido Patriótico (NPP).
Un perfil de bot creado por IA promueve al presidente de Ghana, Mahamudu Bawumia. X/@joyce_j5
Según una nueva investigación realizada por NewsGuard, un sitio web que ofrece herramientas para evaluar la precisión y la fiabilidad de los medios de comunicación, las cuentas de bots han estado promoviendo de manera uniforme al candidato del NPP Mahamudu Bawumia y sus puntos de vista de derecha, a menudo utilizando los hashtags #Bawumia2024, #NPP y el eslogan del NPP #ItIsPossible. Las cuentas parecen haber estado activas desde febrero.
"Admiro el compromiso del Dr. Bawumia con la transformación de Ghana", se lee en una publicación de bot creada por IA en septiembre. "Su profundo impacto en nuestras políticas nacionales y nuestro progreso no se puede subestimar. #Bawumia2024 #NPP".
Las cuentas, que parecen tener fotos de perfil generadas por IA y tienen nombres como "Glenn Washington", "Netflix Series&Movies" y "Patriot", también menosprecian a John Mahama, el candidato presidencial del partido rival de izquierda Congreso Nacional Democrático. Estas publicaciones a menudo usan hashtags como #mahamaisaliar y #DrunkmaniMahama, acusando a Mahama de ser un borracho. (Mahama lo ha negado).
"El objetivo principal de la red parece ser amplificar los mensajes a favor del NPP, promover la administración de Bawumia y apuntar al opositor Congreso Nacional Democrático", dijo a Rest of World McKenzie Sadeghi, editora de IA e influencia extranjera en NewsGuard que contribuyó a la investigación.
Dimitris Dimitriadis, director de investigación y desarrollo de NewsGuard, dijo en una entrevista con Rest of World que las cuentas de bots tienden a publicar en intervalos "regulares" y "predecibles", a menudo diez o más veces al día. Dijo que las cuentas, que tienden a estar activas entre las 8 a. m. y las 6 p. m. en Ghana, reciben principalmente "me gusta" y publicaciones de otros en la red de bots. Estos patrones regimentados en el tiempo y el estilo alertaron a los investigadores de que las cuentas podrían ser falsas.
El equipo de investigación de NewsGuard introdujo las 171 publicaciones de las cuentas en una herramienta de Pangram Labs, que evalúa la probabilidad de que el texto haya sido generado por IA, dijo Dimitriadis. La herramienta concluyó que era "muy probable" que todas las cuentas estuvieran publicando contenido generado por IA creado por ChatGPT.
En los últimos dos años, NewsGuard ha "seguido y rastreado una serie de casos de comportamiento manipulado en X", dijo Dimitriadis.
La moderación de contenido de X ha disminuido significativamente desde 2022, cuando Elon Musk adquirió la empresa, entonces llamada Twitter. Musk despidió rápidamente a la mayoría de los moderadores de contenido del sitio web y aproximadamente el 80% de sus ingenieros de confianza y seguridad, quienes identificaron y eliminaron campañas de influencia extranjera. Más tarde, X eliminó la mitad de su unidad de integridad electoral, solo semanas después de que la directora ejecutiva Linda Yaccarino prometiera expandirla. Un informe de 2023 de la Unidad Europea afirmó que, bajo el liderazgo de Musk, el volumen de publicaciones erróneas y de desinformación se ha disparado en comparación con otras plataformas de redes sociales.
La falta de supervisión en la plataforma ha creado oportunidades para redes de influencia política. Con herramientas como ChatGPT, estas redes pueden crear nuevo contenido de redes sociales a gran escala sin que haya mucho que las detenga. "La IA parece ser cada vez más utilizada por malos actores que buscan influir en las elecciones o en los resultados democráticos", dijo Dimitriadis a Rest of World.
Sadeghi dijo que NewsGuard ha observado muchos cambios en X desde que Musk tomó las riendas.
"Descubrimos que los usuarios verificados en X [cuenta] (https://35bb68d9.streaklinks.com/CL63d73NTXf3LT_S2wQ3kMhV/https%3A%2F%2Fwww.newsguardtech.com%2Fmisinformation-monitor%2Foctober-2023%2F) para algunas de las afirmaciones falsas o sin fundamento más virales", dijo Sadeghi. "El check azul permite que la desinformación aparezca en un lugar más alto y con mayor prominencia en la plataforma, lo que resultó ser una bendición para los malos actores".
Agregó que una encuesta reciente de NewsGuard (https://35bb68d9.streaklinks.com/CL63d77_f1nlYBiB4AFhTiUy/https://www.newsguardtech.com/press/most-americans-put-misplaced-trust-in-xs-blue-check-verification-system/) descubrió que una cuarta parte de los usuarios de X que respondieron creían que los usuarios con checks azules eran más confiables que los que no los tenían.
"El check azul permite que la desinformación aparezca en un lugar más alto y con mayor prominencia en la plataforma"
Este año es un momento político vulnerable en Ghana. Según el Departamento de Estado de Estados Unidos, durante el último ciclo electoral de Ghana en 2020, ocho personas fueron asesinadas (https://www.state.gov/reports/2022-country-reports-on-human-rights-practices/ghana#:~:text=During%20the%202020%20election%20period,two%20deaths%20from%20civilian%20violence). Dos de los asesinatos fueron perpetrados por civiles y otros dos por militares y policías del Grupo de Trabajo de Seguridad Electoral del país.
NewsGuard afirmó en su informe que la red de 171 cuentas de bots "parece ser la primera red secretamente partidista que utiliza IA para influir en las elecciones en Ghana".
NewsGuard compartió los resultados de su investigación con X y OpenAI, afirmó Dimitriadis. Al momento de escribir este artículo, dos de las 171 cuentas han sido suspendidas y dos han sido restringidas. Ninguna de las empresas respondió a las solicitudes de comentarios del Resto del Mundo.
OpenAI ha expresado su preocupación por el uso de ChatGPT por parte de personas para generar contenido que influya en el discurso político. Según un informe de OpenAI publicado en octubre, las redes de influencia han estado utilizando ChatGPT para hacer publicaciones políticas en las redes sociales y en blogs "en los Estados Unidos, Ruanda y (en menor medida) la India y la Unión Europea". La empresa afirmó que "interrumpió" las actividades de más de 20 de estas redes.
La red en Ghana no introdujo nada nuevo en el discurso político del país, dijo Dimitriadis, ya que todos los hashtags y puntos de conversación en las publicaciones de la red ya eran populares. Agregó que es "inherentemente difícil" evaluar cuánto impacto han tenido estas cuentas en el discurso político de Ghana.
"Uno de los objetivos de la red era dirigir claramente el tráfico hacia un conjunto específico de hashtags a favor del NPP", dijo Dimitriadis. "Pero, obviamente, debido a la naturaleza de los hashtags y debido a que hay miles de cuentas cada día que promueven estos hashtags, creo que es muy difícil desentrañar ese impacto".