Incidents associés
Lundi, Malacañang a exprimé ses inquiétudes concernant la diffusion d'une vidéo générée par l'IA montrant des Philippins falsifiés numériquement exprimant leur soutien à la vice-présidente Sara Duterte contre la destitution, notamment après que de hauts fonctionnaires ont partagé le contenu.
La sous-secrétaire du Bureau de la communication présidentielle (PCO), Claire Castro, a critiqué la vidéo, signalée comme fausse, soulignant qu'elle avait été partagée par le sénateur Ronald « Bato » Dela Rosa et le maire de Davao, Sebastian « Baste » Duterte.
Elle a averti que le partage de tels contenus erronés sapait la confiance du public, surtout lorsqu'ils émanent de personnes influentes.
« Il est extrêmement préoccupant que des responsables gouvernementaux partagent eux-mêmes de fausses nouvelles ou de la désinformation », a déclaré Mme Castro.
Elle a souligné que les responsables publics ont la responsabilité de vérifier l'authenticité de ce qu'ils partagent, surtout à l'ère des contenus générés par l'IA imitant des personnes réelles.
Interrogé sur la question, Dela Rosa a déclaré qu'il était d'accord avec le message, que la vidéo ait été générée par l'IA ou non. « Quoi qu'il en soit, le point est très clair et je l'approuve. J'adhère au message, pas au messager », a-t-il déclaré.
Par ailleurs, la vice-présidente Sara Duterte a déclaré ne voir « aucun problème » à ce que des vidéos produites par l'IA la soutiennent, tant qu'elles ne sont pas monétisées.
« Il n'y a probablement aucun problème à partager des vidéos d'IA en ma faveur, tant qu'elles ne sont pas utilisées à des fins commerciales », a-t-elle déclaré lors d'une conférence de presse à Washington.
« Si je crée du contenu d'IA pour soutenir une certaine personnalité, il n'y a aucun problème, car je n'en fais pas une entreprise. Je ne le vends pas », a-t-elle déclaré.
Elle a également critiqué l'agence de marketing Comm&Sense Inc., citant un rapport d'OpenAI alléguant que l'entreprise utilisait l'IA pour créer des publications et des commentaires sur les réseaux sociaux l'attaquant.
Duterte a demandé pourquoi l'entreprise, qui appartiendrait au fils du milliardaire partisan de Marcos, Eusebio Tanco, n'avait pas été incluse dans une enquête de la Chambre des représentants sur la désinformation en ligne. Note de l'éditeur : Ceci est une mise à jour de l'article. Initialement publié sous le titre « Le Palais met en garde les autorités contre le partage de deepfakes générés par l'IA ».