Incidents associés
Les dangers de la technologie de l’intelligence artificielle ont été mis en évidence à Westfield après la diffusion de fausses images pornographiques d’étudiantes dans le lycée local.
Les images ont été créées à partir de vraies photos provenant des réseaux sociaux sur une application d’IA incroyablement facile d’accès et d’utilisation. La création de ce type de photos modifiées est connue sous le nom de « deepfakes ». Dans de nombreux cas, il est difficile de dire que les photos ne sont pas réelles.
Les parents du quartier ont été informés par courrier électronique du directeur de l'école.
CBS 2 a obtenu une copie de cet e-mail, il se lit comme suit :
"Plus tôt dans la journée, des étudiants ont attiré notre attention sur le fait que certains de nos étudiants avaient utilisé l'intelligence artificielle pour créer des images pornographiques à partir de photos originales. Il y avait beaucoup d'inquiétude quant à savoir qui avait créé ces images et si elles étaient partagées. À ce moment-là, nous pensons que toutes les images créées ont été supprimées et ne circulent pas."
Les responsables de l'école ont informé les parents des élèves impliqués et demandent à toute personne pensant être une victime de se manifester et de contacter la police de Westfield.
Les parents des victimes affirment que l'incident a ébranlé le corps étudiant féminin et exigent la mise en place de mesures de protection.
Le directeur de l'école, le Dr Raymond González, affirme que le district sensibilise déjà les élèves aux dangers de cette technologie et aux dommages qu'elle peut causer à ses camarades. Il a déclaré dans un communiqué que le district mettait en place des mesures de protection pour empêcher l'utilisation ou l'accès à la technologie de l'IA sur le réseau de l'école et les appareils fournis par l'école.
Un parent a déclaré au Wall Street Journal que sa fille ne voulait pas aller à l'école avec les garçons chargés de réaliser et de diffuser les photos.
Bien que la police de Westfield soit au courant de l'incident, elle n'a commenté aucune enquête. Les responsables de l'école déclarent qu'ils ne peuvent pas non plus commenter le nombre d'élèves concernés ni les mesures disciplinaires prises.
Luttes avec les technologies émergentes d’IA
Le président Joe Biden a signé un décret sur l'intelligence artificielle la semaine dernière.
"L'IA est partout autour de nous", a déclaré Biden. "Pour réaliser la promesse de l'IA et éviter les risques, nous devons gouverner cette technologie."
Cette ordonnance est une première étape visant à garantir que l’IA est fiable et utile, plutôt que trompeuse et destructrice.
L’ordonnance – qui devra probablement être renforcée par une action du Congrès – vise à orienter la manière dont l’IA est développée afin que les entreprises puissent en tirer profit sans mettre en danger la sécurité publique.
Beaucoup se méfient de la technologie de l’IA
En raison de son utilisation pour créer des deepfakes et contribuer à de nombreuses escroqueries auprès des consommateurs, la méfiance du public à l’égard de l’IA augmente.
Un nouveau sondage de l'Associated Press-NORC Center for Public Affairs Research et de la Harris School of Public Policy de l'Université de Chicago révèle qu'une majorité d'adultes américains pensent que les outils d'intelligence artificielle augmenteront la diffusion d'informations fausses et trompeuses lors de l'élection présidentielle de 2024.
Le sondage révèle que seulement 30 % des adultes ont utilisé des chatbots ou des générateurs d’images d’IA et que moins de la moitié ont entendu ou lu au moins quelques articles sur les outils d’IA.
Pourtant, la plupart des adultes estiment que les candidats politiques utilisant l’IA à diverses fins sont une mauvaise idée.