Incidents associés
Des photos pornographiques d'élèves d'un lycée du New Jersey générées par l'IA et distribuées à leurs camarades de classe masculins ont suscité l'indignation des parents et des responsables de l'école et ont donné lieu à une enquête de la police, selon un rapport.
Des filles du lycée Westfield, dans une ville aisée aux maisons de style colonial et aux rues bordées d'arbres, à environ 40 km à l'ouest de New York, ont récemment découvert que leurs homologues masculins partageaient des photos nues d'elles créées avec un outil d'IA en ligne, le Wall Street Journal a rapporté jeudi.
La mère de l'une des filles a déclaré que sa fille lui avait dit que les garçons de deuxième année se comportaient "bizarrement" le 16 octobre, parlant entre eux et étant plus silencieux que d'habitude.
Puis, le 20 octobre, l'un des garçons a confié à certaines des filles qu'au moins un élève avait utilisé un site Web alimenté par l'IA pour créer des images pornographiques à partir de photos des filles trouvées en ligne et a commencé à les partager.
Les responsables de l'école ont été alertés et les administrateurs ont commencé à interroger les garçons pour obtenir plus d'informations.
Et tandis que le lycée a confirmé les photos dans un e-mail adressé aux parents, une porte-parole des écoles publiques de Westfield, invoquant la confidentialité des élèves, a refusé de donner au Wall Street Journal des détails sur le nombre d'élèves impliqués ou si des mesures disciplinaires avaient été prises.
Dans un e-mail adressé aux parents le 20 octobre, Mary Asfendis, directrice du lycée Westfield, a déclaré qu'elle pensait que les photos avaient été supprimées.
"C'est un incident très grave", a-t-elle écrit. "Les nouvelles technologies ont rendu possible la falsification des images et les étudiants doivent connaître l'impact et les dommages que ces actions peuvent causer aux autres."
Mais les parents affirment que leurs filles ont été humiliées et se sentent impuissantes face à cette expérience et craignent que les images ne fassent surface plus tard, nuisant davantage à leurs enfants.
Dorota Mani a déclaré que sa fille de 14 ans, Francesca, avait été informée par l'école que sa photo avait été utilisée.
"Je suis terrifiée par la façon dont cela va faire surface et quand. Ma fille a un avenir brillant et personne ne peut garantir que cela n'aura pas d'impact sur elle professionnellement, académiquement ou socialement", a déclaré Dorota Mani au média.
Elle a déposé plainte à la police et ne veut pas que sa fille soit dans la même école que celui qui a créé les photos.
"Il est difficile d'être témoin d'une situation où l'on voit des jeunes filles traumatisées à un stade vulnérable de leur vie", a déclaré la maire de Westfield, Shelley Brindle, à la publication.
La police de Westfield a ouvert une enquête et le sénateur de l'État Jon Bramnick, dont le district comprend Westfield, a déclaré qu'il cherchait à savoir s'il existait ou non des lois dans le New Jersey couvrant la création de matériel contrefait.
"Cela doit être un crime grave dans le New Jersey", a-t-il déclaré, soulignant qu'il avait demandé au procureur du comté d'enquêter.
Certains États, dont la Virginie, la Californie, le Minnesota et New York, ont interdit la distribution des images ou autorisent les victimes à poursuivre les créateurs devant un tribunal civil.
Le président Joe Biden a signé lundi un décret qui établira de nouvelles règles et garanties autour de l'intelligence artificielle.
Des vidéos de célébrités générées par l’IA ont également été utilisées pour vendre des produits et des services à leur insu.
Tom Hanks a vu son image utilisée par une entreprise dentaire, et [Scarlett Johansson ](https://themessenger.com/tech/scarlett-johansson-sues-ai-avatar-app-for-allegedly-exploiting-her-voice-and -ressemblance) a poursuivi un créateur d'applications d'IA pour avoir utilisé sa voix et son apparence dans une publicité sans obtenir sa permission.
Une étude récente a révélé que plus de 113 000 images modifiées numériquement et fausses vidéos ont été téléchargées sur des sites hébergeant " deepfake porn" jusqu'en septembre de cette année.
Et entre 50 % et 80 % du trafic vers les sites Web provient de recherches lancées sur certains des plus grands sites Internet, notamment Google et Bing.