Bienvenue dans

la base de données des incidents d'IA

Comté de Lancaster, Pennsylvanie (WHTM) — Un établissement scolaire du centre de l'État fait face à une plainte après la création, par deux anciens élèves, de centaines d'images truquées de jeunes filles nues, générées par intelligence artificielle.

Selon LNP, partenaire média d'abc27 News, les parents de 13 des jeunes filles concernées ont porté plainte contre la Lancaster Country Day School et des entreprises spécialisées en intelligence artificielle devant un tribunal fédéral.

Le scandale concerne des centaines de photos truquées, générées par IA, d'au moins 50 camarades de classe, créées entre novembre 2023 et mai 2024.

Les deux anciens élèves, condamnés par un tribunal pour mineurs pour avoir créé ces images, sont également visés par la plainte, ainsi que leurs parents.

La plainte, déposée auprès du tribunal du district Est de Pennsylvanie et obtenue par LNP, allègue que l'établissement scolaire avait connaissance des images et n'a rien fait pour protéger les victimes, malgré son obligation de signalement et la réception d'un signalement Safe2Say.

La plainte allègue également que l'établissement a « activement entravé l'enquête et dissimulé les faits, privant ainsi ses élèves et leurs parents de la possibilité de se protéger ou de signaler ces crimes aux forces de l'ordre ».

La plainte soutient que l'incident a eu un impact durable sur les victimes et leur a « causé un traumatisme psychologique qu'elles subiront toute leur vie ». Elle ajoute que l'incident a provoqué chez les victimes de l'anxiété, des crises de panique, une dépression et un syndrome de stress post-traumatique.

L'incident a conduit l'école à se séparer de son directeur, Matt Micciche, et de sa présidente, Angela Ang-Alhadeff, suite à une plainte antérieure alléguant que les deepfakes avaient été réalisés sous leur responsabilité.

La plainte allègue une négligence de la part des élèves, de leurs parents et de la Lancaster Country Day School, qui a depuis lors changé de direction.

De plus, la plainte allègue l'exploitation sexuelle d'un mineur et l'infliction intentionnelle de détresse émotionnelle par les élèves.

La Lancaster Country Day School est également accusée d'avoir enfreint le Titre IX et d'avoir causé par négligence une détresse émotionnelle.

Les parents des garçons sont également accusés de négligence pour avoir omis de surveiller leurs enfants.

La plainte allègue également que les sociétés d'IA non nommées ont fait preuve de négligence et n'ont pas signalé la présence de contenus pédopornographiques ni protégé leurs plateformes contre leur production.

La plainte réclame des dommages et intérêts compensatoires, dont le montant sera déterminé lors du procès, ainsi qu'un minimum légal de 150 000 $ par défendeur. Elle vise également à contraindre la Lancaster Country Day School à mettre en place et à maintenir des procédures de signalement et des formations, et les sociétés d'IA à instaurer des mesures de protection contre la production de contenus pédopornographiques.

Un avocat de la Lancaster Country Day School a déclaré à abc27 : « L'établissement a reçu la plainte, évalue actuellement ses moyens de défense et se défendra. »

LITTLE ROCK (KATV) — Une famille de l'Arkansas poursuit XAI, la société d'intelligence artificielle appartenant à Elon Musk, après qu'un photographe de Bentonville aurait utilisé le modèle d'IA « Grok » pour transformer des photos de leur fille et d'autres clients en matériel pédopornographique. D'autres familles de l'Arkansas pourraient bientôt se joindre à eux.

Russell Bloodworth III, photographe renommé du nord-ouest de l'Arkansas, a été arrêté le 10 juin et inculpé de 200 chefs d'accusation pour possession et création de deepfakes, c'est-à-dire de matériel pédopornographique généré par IA.

La police de Bentonville a déclaré qu'il avait utilisé l'IA Grok pour générer ce matériel choquant, en grande partie à partir de photos qu'il avait prises de jeunes clients. Selon une déclaration sous serment, la perquisition de son téléphone a révélé environ 1 700 images et vidéos pédopornographiques.

Le cabinet d'avocats Potts représente une famille de l'Arkansas qui affirme que la police leur a confirmé que l'image de leur fille avait été utilisée pour créer du matériel pédopornographique. Ils ne sont pas seuls : selon M. Potts, de plus en plus de familles contactent leur cabinet après avoir été informées par la police de cette terrible nouvelle.

« Nous avons été contactés par d’autres familles, adultes et enfants compris, dont les images ont été utilisées pour diffuser des contenus choquants. Nous déposerons des plaintes en leur nom la semaine prochaine », a déclaré Derek Potts, associé gérant du cabinet Potts Law Firm.

« Je pense que tout le monde s’accorde à dire que cette plateforme est unique, contrairement aux autres. Elle s’est présentée comme étant, entre guillemets, “rebelle”. Elle a mis en avant ses fonctionnalités supplémentaires permettant de créer des images à caractère érotique. Elle a donc promu ce type de contenu, contrairement à d’autres plateformes. Il faut bien fixer des limites, non ? On ne peut pas laisser les choses totalement libres et permettre de commettre des crimes terribles », a déclaré M. Potts à KATV.

Bien que des États comme l'Arkansas aient adopté des lois créant de nouvelles infractions pour la production de matériel pédopornographique par l'IA, il n'existe aucune réglementation fédérale ou étatique concernant les modèles d'IA eux-mêmes. Face aux progrès fulgurants de cette technologie – et à la multiplication des crimes qu'elle peut engendrer – les appels à la réforme se multiplient.

« Pratiquement aucune loi n'a encore été adoptée, ni par l'Arkansas ni par le gouvernement fédéral, pour restreindre, limiter ou réglementer l'IA », a déclaré Potts.

« Je ne pense pas que nous puissions continuer à vivre dans un monde où quelques entreprises seulement dictent toutes les règles en matière d'IA et où nous devons en subir les conséquences. Il est impératif d'établir des règles, car nous constatons que les modèles parviennent à les contourner et à accomplir des choses inimaginables… Il est tout à fait possible de nuire à notre santé, à la société… Nous ne pouvons pas laisser cette responsabilité entre les mains de quelques géants de la tech », a déclaré Phillip Huff, professeur d'informatique à l'Université de l'Arkansas à Little Rock.

La famille qui poursuit XAI réclame des dommages et intérêts, la suppression de toutes les représentations illégales de leur enfant, ainsi que la mise en place par XAI de mesures de protection pour empêcher la production de représentations sexuellement explicites non consensuelles de personnes réelles, y compris des mineurs.

Un Tunisien a été inculpé pour avoir planifié un attentat terroriste au Louvre à Paris, selon les médias français.

Le Monde et Le Parisien ont rapporté que le suspect, âgé de 27 ans, avait envisagé le célèbre musée comme cible potentielle, ainsi que la communauté juive du 16e arrondissement.

L'homme, qui résidait en situation irrégulière en France, a été arrêté le 7 mai et inculpé lundi. Il est accusé d'avoir planifié l'attentat et d'avoir projeté de rejoindre les rangs de l'État islamique en Syrie ou au Mozambique.

L'analyse de son téléphone portable a révélé la présence de vidéos de propagande et de centaines de photos d'armes, rapporte Le Monde, qui précise qu'il utilisait également comme photo de profil sur les réseaux sociaux l'image d'un combattant de l'État islamique exécutant des prisonniers.

Son téléphone contenait également des recherches ChatGPT avec des questions telles que « comment fabriquer une bombe ».

La France est en alerte maximale depuis les frappes américaines et israéliennes contre l'Iran fin février. Par précaution, face aux répercussions potentielles sur le sol français, le ministre de l'Intérieur, Laurent Nunez, a demandé en mars aux forces de l'ordre d'être vigilantes afin de « détecter tout acte susceptible de troubler l'ordre public ».

Certaines applications, outils et visualisations partageables créés par les utilisateurs de Claude apparaissent dans les résultats de recherche Google.

Enjeu : La plupart des utilisateurs de Claude ne s’attendent probablement pas à ce que les outils qu’ils partagent avec leurs amis, collègues ou autres destinataires soient référencés par le moteur de recherche le plus populaire au monde.

Contexte : Claude est le dernier chatbot IA en date à soulever des questions sur la manière dont les moteurs de recherche gèrent le contenu public généré par l’IA, après un examen similaire des conversations ChatGPT.

En juin 2025, des utilisateurs ont partagé par erreur, sur un flux public, des conversations avec les chatbots IA de Meta, notamment des échanges textuels, des extraits audio et des images créés avec ces derniers.

Au cours du week-end, des utilisateurs de Reddit et de X ont signalé qu'il était facile de retrouver, via Google, les conversations et les éléments créés avec Claude : applications, documents, feuilles de calcul, pages web et autres fichiers.

• Lundi après-midi, Axios parvenait encore à trouver des artefacts Claude partagés publiquement et indexés sur Google, mais pas les conversations Claude avec le chatbot.

Fonctionnement : Les conversations et les artefacts Claude sont privés par défaut, mais les utilisateurs peuvent générer un lien public pour les partager.

• Ces conversations peuvent contenir des informations sensibles et privées.

Déclaration : Un porte-parole d'Anthropic a indiqué que l'entreprise ne « partage pas les répertoires de conversations ni les plans de site avec les moteurs de recherche comme Google ».

• « Ces liens partageables ne sont ni devinables ni visibles par les utilisateurs, sauf s'ils choisissent de les partager », a précisé le porte-parole. « Lorsqu'une conversation est partagée, son contenu devient public et, comme tout contenu web public, il peut être archivé par des services tiers. »

• Anthropic a ajouté que ces conversations et artefacts ne sont indexés par les moteurs de recherche tiers qu'après avoir été partagés sur une plateforme accessible à ces moteurs, comme un forum ou les réseaux sociaux.

Zoom sur : Parmi les documents indexés par Claude et consultés par Axios lundi figuraient un plan s'opposant à la dissolution d'une agence municipale de Miami chargée de la gestion des parcs, ainsi qu'un document relatif aux modifications du calendrier universitaire.

D'autres documents indexés comprenaient des plans d'affaires, des schémas d'infrastructure expliquant des environnements multicloud et des documents de planification décrivant le déroulement d'un essai clinique.

Axios n'a pas pu vérifier immédiatement l'auteur de chaque document ni la légitimité des informations qu'ils contenaient.

Conclusion : Une fonctionnalité conçue pour le partage peut engendrer des risques pour la vie privée lorsque les utilisateurs considèrent un lien public comme un transfert privé.

Note de la rédaction de l'AIID : Veuillez consulter la source originale pour le rapport complet, également accessible à l'adresse suivante : https://casp.ac/__l5e/assets-v1/8e5796ad-c373-4dea-8470-466263cd2125/ai-enabled-terrorism-report.pdf.

Résumé

Comment les terroristes utilisent-ils l'IA ? Des entretiens semi-directifs menés auprès de 27 anciens membres de Boko Haram dans le nord-est du Nigéria en 2025 et 2026 révèlent des détails inédits sur les activités terroristes assistées par l'IA, principalement jusqu'en 2024. Ce rapport constate que les deux factions de Boko Haram utilisent des IA de pointe, notamment ChatGPT, Claude, Gemini, Grok, Meta AI et DeepSeek, pour les assister dans les combats et les opérations quotidiennes. Cette utilisation de l'IA est institutionnalisée par le biais d'unités spécialisées et de formations internes. L'IA a facilité la planification des attaques, le dépannage des armes et la conception d'engins explosifs, ses utilisateurs ayant réussi à contourner certains systèmes de sécurité. Ce savoir-faire a été transmis par les réseaux djihadistes transnationaux, des membres de l'État islamique assurant des formations en présentiel. Les personnes interrogées ont manifesté un vif enthousiasme pour l'IA et, dans certains cas, une certaine ouverture aux armes de destruction massive, même si son utilisation documentée reste conventionnelle. L'adoption de l'IA par les terroristes a donc progressé de manière plus systématique que ne le laissaient supposer les analyses précédentes, ce qui en fait une réalité actuelle et croissante qui mérite l'attention des décideurs politiques, des communautés de sécurité et des développeurs d'IA.