Incidentes Asociados
CIUDAD DEL VATICANO, 24 ene (Reuters) - El Papa Francisco, reconociendo que fue víctima de una foto deepfake, advirtió el miércoles contra los peligros "perversos" de la inteligencia artificial, renovando un llamado a su regulación mundial para aprovecharla para el bien común. .
Francisco habló de sus temores y esperanzas sobre la inteligencia artificial (IA) en su mensaje para el Día Mundial de las Comunicaciones Sociales de la Iglesia Católica Romana, que se celebrará en todo el mundo el 12 de mayo.
Si bien instó a la gente a "dejar de lado temporalmente las predicciones catastróficas y sus efectos adormecedores" sobre cosas nuevas, su mensaje de tres páginas fue en su mayor parte nefasto, advirtiendo sobre la "contaminación cognitiva" que puede distorsionar la realidad, promover narrativas falsas y encarcelar a las personas en cámaras de eco ideológicas. .
"Basta pensar en el problema de larga data de la desinformación en forma de noticias falsas, que hoy pueden recurrir a los 'deepfakes', es decir, la creación y difusión de imágenes que parecen perfectamente verosímiles pero falsas. Yo también he sido objeto de esto ", escribió Francisco.
Al parecer se refería a una imagen falsa suya que se volvió viral en las redes sociales el año pasado. Lo mostraba usando un abrigo acolchado blanco hasta los tobillos publicado por alguien que usó un programa de generación de imágenes.
Francisco también habló de falsos "mensajes de audio que utilizan la voz de una persona para decir cosas que esa persona nunca dijo".
El lunes, el fiscal general del estado estadounidense de New Hampshire dijo que su oficina había abierto una investigación sobre los orígenes de las [robocalls] falsas (https://www.reuters.com/world/us/fake-biden-robocall-not -expeded-affect-nh-primary-official-2024-01-23/) que simuló la voz del presidente Joe Biden y alentó a los votantes a no emitir su voto en las primarias presidenciales del martes.
"La tecnología de simulación detrás de estos programas puede ser útil en ciertos campos específicos, pero se vuelve perversa cuando distorsiona nuestra relación con los demás y con la realidad", escribió el Papa.
Renovó un llamado que hizo el mes pasado para un tratado internacional legalmente vinculante. para regular la IA.
En el mensaje del miércoles habló de las "patologías asociadas" de la IA, incluida una disminución del pluralismo y una proliferación del "pensamiento de grupo", donde se adoptan posiciones de consenso sin considerar críticas o alternativas externas.
Francisco también habló del peligro de la IA en los medios de comunicación, particularmente en los informes de guerra, que, según dijo, podrían estar sujetos a una guerra paralela librada a través de campañas de desinformación.
AI debe apoyar y no eliminar el papel del periodismo sobre el terreno, afirmó.