Incidents associés
GPT-4o d'OpenAI a attiré l'attention grâce à ses capacités visuelles avancées, mais aussi à son potentiel d'utilisation abusive. GPT-4o se distingue des modèles précédents par la production de texte au sein d'images qui semblent authentiques et lisibles, ce qui engendre des risques importants lors de la création de documents frauduleux.
Deedy Das, directeur de Menlo Ventures, a récemment publié une image montrant un faux reçu généré par GPT-4o. Un authentique repas de steakhouse de San Francisco y apparaissait, chaque article et son coût, taxes et pourboires compris, y étaient affichés avec précision. Selon Das, le nombre de vérifications en situation réelle dépend de la qualité des images servant de preuves authentiques. « Cette époque est révolue. »
Ces images générées par l'IA présentent un réalisme tel qu'elles surpassent les standards de création humaine. L'utilisateur a appliqué un filtre et des taches alimentaires artificielles au faux reçu, ce qui l'a rendu plus réaliste pour la fraude aux notes de frais. Mais ce n'est pas tout. Grâce à GPT-4o, Das a prouvé sa capacité à produire de fausses ordonnances de substances réglementées pour le Zoloft et d'autres médicaments.
Les implications sont effrayantes. Le potentiel d'abus est considérable, car GPT-4o permet la création de faux formulaires fiscaux, de faux chèques bancaires, ainsi que de fausses pièces d'identité et de faux certificats de naissance. L'industrie technologique teste des mécanismes de protection par le biais de balises de métadonnées et de tatouages numériques par IA, mais ces mesures de sécurité offrent généralement des solutions de contournement simples.
Les outils d'IA n'avaient pas besoin d'atteindre un tel niveau de développement pour que la fraude se généralise. Les résultats d'une enquête de 2015 ont montré que 85 % des participants avaient falsifié des reçus pour obtenir des avantages monétaires. La disponibilité de GPT-4o et ses puissantes fonctionnalités créent un potentiel de prolifération considérable de la fraude documentaire.
Avec GPT-4o, la confiance visuelle a atteint son paroxysme à l'ère numérique. Les organisations doivent repenser leurs systèmes de vérification et renforcer leurs contrôles internes, car les images générées par l'IA correspondent désormais à la réalité, au point que la distinction entre vrai et faux disparaîtra complètement.