Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 1018: OpenAI’s 4o Model Allegedly Used to Generate Fake Receipts and Prescriptions

Description: OpenAI’s new image generator, 4o, was reportedly used to produce realistic fraudulent documents, including fake restaurant receipts, prescriptions for controlled substances, and potentially other identity or financial documents. Users demonstrated how the model could be prompted to bypass safety restrictions to be misused for expense fraud, medical forgery, and other various forms of document falsification.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: OpenAI developed an AI system deployed by scammers et Fraudsters, which harmed Regulatory agencies , Pharmacists , Law enforcement , healthcare providers , General public , Expense management platforms et Employers.
Systèmes d'IA présumés impliqués: Prescription validation systems , OpenAI 4o image generator , Expense reporting systems et Document verification systems

Statistiques d'incidents

ID
1018
Nombre de rapports
2
Date de l'incident
2025-03-31
Editeurs
Daniel Atherton

Rapports d'incidents

Chronologie du rapport

Incident OccurrenceLe nouveau générateur d'images d'OpenAI est incroyable pour créer des documents frauduleuxIl s'avère que le nouveau générateur d'images d'OpenAI est incroyable pour créer des documents frauduleux
Le nouveau générateur d'images d'OpenAI est incroyable pour créer des documents frauduleux

Le nouveau générateur d'images d'OpenAI est incroyable pour créer des documents frauduleux

futurism.com

Il s'avère que le nouveau générateur d'images d'OpenAI est incroyable pour créer des documents frauduleux

Il s'avère que le nouveau générateur d'images d'OpenAI est incroyable pour créer des documents frauduleux

wonderfulengineering.com

Le nouveau générateur d'images d'OpenAI est incroyable pour créer des documents frauduleux
futurism.com · 2025
Traduit par IA

Le dernier modèle 4o de génération d'images d'OpenAI est étonnamment performant pour générer du texte à l'intérieur des images, une prouesse qui s'était avérée particulièrement difficile pour ses nombreux prédécesseurs.

Cela en fait un outi…

Il s'avère que le nouveau générateur d'images d'OpenAI est incroyable pour créer des documents frauduleux
wonderfulengineering.com · 2025
Traduit par IA

GPT-4o d'OpenAI a attiré l'attention grâce à ses capacités visuelles avancées, mais aussi à son potentiel d'utilisation abusive. GPT-4o se distingue des modèles précédents par la production de texte au sein d'images qui semblent authentique…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Hackers Break Apple Face ID

Hackers Claim to Break Face ID a Week After iPhone X Release

Sep 2017 · 24 rapports
Fake LinkedIn Profiles Created Using GAN Photos

That smiling LinkedIn profile face might be a computer-generated fake

Feb 2022 · 4 rapports
Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Hackers Break Apple Face ID

Hackers Claim to Break Face ID a Week After iPhone X Release

Sep 2017 · 24 rapports
Fake LinkedIn Profiles Created Using GAN Photos

That smiling LinkedIn profile face might be a computer-generated fake

Feb 2022 · 4 rapports
Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2024 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 300d90c