Problème 3328
Les deux yeux qui me regardent depuis l’écran de l’ordinateur sont incontestablement les miens.
Mais ce qui est étrange, c’est que je ne suis pas la personne qui se tient devant la caméra. Cet honneur revient à l'un des développeurs travaillant dans le « laboratoire de fraude » dans lequel je travaille.
J'ai été falsifié, un processus que [la technologie a rendu facile](https://www.telegraph.co.uk/business/2023/10/26/the-five-worse-case-scenarios-for-ai- d’ici 2030/). Une photo de moi a été prise sur un smartphone et quelques secondes plus tard, n'importe qui dans le laboratoire pouvait devenir moi – du moins en ligne.
Le deepfaking voit [une personne prendre le visage ou même la voix d'une autre](https://www.telegraph.co.uk/business/2023/09/17/britain-label-deepfake-pictures-videos-ai-crackdown /) numériquement, ce qui signifie qu'ils peuvent prendre des photos et des vidéos comme s'ils étaient la personne qu'ils ont copiée. C'est essentiellement un filtre.
À mesure que de plus en plus de membres du personnel du laboratoire se déplacent pour se tenir devant la caméra, de plus en plus de versions de mon visage apparaissent.
C'est un bon moyen de tester différentes coiffures, car le logiciel n'est pas doué pour copier des cheveux. Je me matérialise avec un carré blond, des vagues brunes et même chauve, mais tous les visages sont définitivement les miens.
C’est très déconcertant, mais la technologie n’est pas étrangère. Adolescente, j'utilisais les filtres Snapchat et, même si je ne suis pas une influenceuse, j'utilise occasionnellement les filtres TikTok pour modifier mon apparence, principalement par curiosité.
Le nombre d’attaques frauduleuses utilisant des deepfakes a été multiplié par 31 entre 2022 et 2023, selon un rapport de la société de vérification Onfido.
À l’aide d’une image falsifiée, les fraudeurs peuvent contourner un processus de vérification d’identité et ouvrir des comptes bancaires sous de faux noms, via lesquels ils peuvent transférer de l’argent sale.
Debout dans la pièce devant l'écran, il est facile de dire quel visage est le vrai, mais sans comparaison instantanée, détecter les deepfakes devient soudainement beaucoup plus difficile.
Je me rends compte qu’avec des images prises sur mes réseaux sociaux et une pièce d’identité aléatoire, des escrocs pourraient très facilement usurper mon identité et même infiltrer mes comptes bancaires, à mon insu et sans mon consentement.
Mais les fraudeurs ne sont pas les seuls à utiliser la technologie des deepfakes dans leur vie quotidienne.
Des demandeurs d'emploi entreprenants ont interviewé des amis qui « portaient » leur visage – même si la plupart d'entre eux sont finalement repérés par les recruteurs.
La pornographie représente 98 % de toutes les vidéos deepfakes, selon le rapport State of Deepfakes 2023 de Home Security Heroes, et le nombre de vidéos en ligne a augmenté de 550 % depuis 2018.
Certaines célébrités, dont le rappeur Jay-Z, ont pris des mesures contre les vidéos utilisant leur image, et des stars de premier plan ont eu recours à [deepfakes acteurs participant à la grève hollywoodienne de cette année](https://www.telegraph.co.uk/ films/0/acteurs-grèves-hollywood-artificial-intelligence-scandal/).
Même si la technologie a été utilisée pour « dévieillir » les acteurs et sera utilisée dans le prochain film Here, avec Paul Bettany et Tom Hanks, on craint également qu'elle ne remplace complètement les performances humaines.
Tout ce dont vous avez besoin c'est d'une application
La technologie permettant de falsifier une personne peut être téléchargée sur les magasins d'applications sur tous les appareils.
Plus le deepfake est sophistiqué – plus il est basé sur des images – plus il est difficile à repérer. Pour les experts en fraude, c’est un cauchemar.
Onfido fournit une vérification d'identité en ligne aux sociétés financières, notamment Barclays, BT et Revolut.
Les utilisateurs sont invités à prendre une photo, qui est comparée à une image de leur passeport ou de leur permis de conduire, ou à une vidéo d'eux-mêmes tournant la tête d'un côté à l'autre.
Simon Horswell, spécialiste de la fraude chez Onfido, déclare : « En 2021, vous ne les avez pas vus. Nous aurions littéralement une poignée de tentatives de deepfake.
Il ajoute : "Mais parce que ces outils sont devenus beaucoup plus accessibles et que les conditions d'entrée et les connaissances techniques requises pour utiliser ces outils ont tellement diminué, nous avons constaté cette énorme augmentation d'année en année."
Les fraudeurs tentent de contourner le système de plusieurs manières. À l’aide d’un logiciel généralement utilisé par les concepteurs et les testeurs d’applications, ils peuvent créer une salle virtuelle sur un téléphone virtuel (qui est en fait géré par un ordinateur portable), pour donner l’impression que la photo d’une fausse pièce d’identité est une image réelle.
En Europe, les documents les plus fréquemment falsifiés sont les cartes d'identité nationales, mais aux États-Unis, [les passeports sont la forme d'identification la plus reproduite](https://www.telegraph.co.uk/news/2023/09/03 /les-passeurs-vendent-de-faux-passeports-histoires-instagram/).
Le passeport britannique est le cinquième document le plus populaire, selon le rapport, représentant plus de 7 % des pièces d'identité frauduleuses sur le continent.
Les entreprises d’Europe et d’Amérique du Nord sont plus susceptibles d’être victimes de fraudes plus graves que les entreprises d’Asie, y compris le recours aux deepfakes.
Mais le document le plus falsifié dans le monde est le passeport indien, suivi de son équivalent italien et de la carte d’identité nationale indonésienne.
L'industrie du jeu a dépassé les services professionnels pour devenir le secteur le plus ciblé de l'économie, les fraudeurs continuant de cibler les services financiers.
Onfido utilise des données de fraude synthétisées pour former ses modèles de prévention de la fraude, mais les experts ont toujours un temps de retard sur les escrocs, qui innovent rapidement.
Des données réelles sur les fraudes qui touchent les consommateurs sont mieux, mais les règles de protection des données font qu'elles ne peuvent pas être stockées pendant le temps nécessaire à l'entraînement des modèles.
L'entreprise tente de stopper les attaques à la source, en empêchant les fraudeurs de détourner les caméras des appareils.
Les métadonnées, ou informations sur les photos prises, permettent de signaler les documents suspects. Les visages qui ne correspondent pas ou les numéros de documents qui ont été utilisés plus d'une fois sont également des cadeaux immédiats.
L’utilisation de la vérification vidéo rend beaucoup plus difficile la création de deepfakes par les fraudeurs, qui doivent être plus sophistiqués pour rendre les mouvements convaincants.
M. Horswell affirme que parce que la technologie est très accessible, les escrocs partagent entre eux des informations sur la manière de réaliser des deepfakes avec plus de succès.
Il dit : « Il y a des groupes organisés qui le font, puis des individus assis à la maison derrière un clavier. Cela devient incroyablement facile, c'est là le problème. Ce n'est pas si difficile, vous n'avez pas besoin d'un doctorat. »