Rome a terminé la rédaction de ce qui serait la première réglementation complète de l'intelligence artificielle en Europe au niveau national, en complément de la loi sur l'IA de l'UE. Le projet de loi, approuvé par le gouvernement et soumis au Parlement mardi 23 avril, introduit de lourdes sanctions pour toute utilisation illégale de la nouvelle technologie, rapporte Il Giornale (https://www.ilgiornale.it/news/interni/cdm-ddl-sullai-stretta-sullillecita-diffusione-dei-contenuti-2313408.html).
Le projet de loi créerait une « stratégie nationale de l'IA » qui garantirait que toute application des technologies de l'IA respecte « l'autonomie et le pouvoir de décision » des êtres humains.
D'une part, le projet de loi propose un investissement initial pouvant aller jusqu'à 1 milliard d'euros pour promouvoir les projets d'IA et les startups qui adhèrent à la réglementation. D'autre part, le texte prévoit de lourdes sanctions, notamment de lourdes amendes et même des peines de prison pouvant aller jusqu'à cinq ans, pour les auteurs de délits liés à l'IA, comme la violation des lois sur le droit d'auteur, l'utilisation d'outils intelligents pour aider au blanchiment d'argent ou la création de copies numériques nuisibles d'autres personnes, également appelées « deepfakes ».
« L'avènement de nouvelles technologies... peut créer des problèmes qui constituent à leur tour des lacunes en matière de protection [qui] doivent nécessairement être comblées par le droit pénal », a déclaré le ministre de la Justice Carlo Nordio lors d'une conférence de presse.
Le texte du projet de loi prévoit que
quiconque, dans le but de nuire à une personne et sans son consentement, envoie, livre, vend, publie ou diffuse de toute autre manière son image, sa vidéo ou sa voix, falsifiée ou altérée par l'utilisation de systèmes d'intelligence artificielle [dans la mesure où cela est] propre à induire en erreur quant à son identité, sera puni d'une peine d'emprisonnement de six mois à trois ans. Si l'acte entraîne un préjudice injuste, la peine sera d'un à cinq ans d'emprisonnement.
L'Italie est à l'avant-garde de la réglementation de l'IA depuis le début, étant également le premier pays d'Europe à interdire temporairement ChatGPT d'OpenAI jusqu'à ce que certaines préoccupations en matière de confidentialité soient résolues. Les efforts de Rome ne s'arrêtent pas non plus au niveau national. La Première ministre Giorgia Meloni a déclaré plus tôt que la réglementation de l'IA reste l'une des principales priorités de la présidence italienne du G7 qui durera jusqu'à la fin de 2024.
La Première ministre Meloni a également des raisons très personnelles de s'engager dans la lutte contre les contenus nuisibles générés par l'IA. Elle témoignera lors d'un procès le 2 juillet contre deux hommes sardes accusés d'avoir créé plusieurs vidéos pornographiques deepfake en utilisant son visage et de les avoir téléchargées sur un site Web américain pour adultes en 2020, deux ans avant qu'elle ne devienne Première ministre de l'Italie.
Meloni réclamerait une somme « symbolique » de 100 000 euros en guise de dédommagement, somme qu'elle s'est engagée, selon son avocat, à reverser à un fonds d'aide aux femmes victimes de violences conjugales.
Malgré le procès en cours, les vidéos en question sont toujours disponibles sur plusieurs sites Internet. En fait, elles sont mieux classées dans les résultats de recherche de Google que les articles traitant de l'affaire lorsqu'on fait des recherches sur le sujet, ce qui souligne encore davantage la gravité de la situation.
La prolifération d'outils d'IA modernes et puissants de génération d'images et de vidéos au cours des dernières années a bien sûr rendu la création de deepfakes nuisibles beaucoup plus facile et accessible au grand public, c'est pourquoi ces instruments et leurs applications doivent être réglementés dès que possible, fait valoir Rome.