Incident 1047: Un analyste australien aurait été la cible d'une arnaque utilisant des documents d'entreprise prétendument sophistiqués générés par l'IA
Description: Un reportage d'ABC News Australia décrit comment des escrocs auraient utilisé des outils d'IA pour créer de faux sites web détaillés pour deux sociétés fictives, APPC Capital Singapore et Thackeray Mines and Minerals Inc., dans le cadre d'une escroquerie à l'investissement. Un analyste australien spécialisé dans la fraude, sous le pseudonyme de « Leon », aurait été pris pour cible. Les experts cités dans l'article avertissent que l'IA facilite la création d'escroqueries convaincantes, capables de tromper même les analystes expérimentés.
Entités
Voir toutes les entitésAlleged: Unknown generative AI developers et Unspecified generative AI developers developed an AI system deployed by Unknown scammers , Unknown cybercriminals , APPC Capital Singapore et Thackeray Mines and Minerals Inc., which harmed "Leon" (pseudonymous Australian fraud analyst) , General public of Australia et General public.
Systèmes d'IA présumés impliqués: Generative image models , AI-assisted website generation tools , Language models used to fabricate bios and documents et Possibly AI-generated financial data visualization tools
Statistiques d'incidents
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
Rapports d'incidents
Chronologie du rapport
Loading...
Léon sait reconnaître une arnaque : fraudeur et analyste de données, il a déjà travaillé pour des institutions financières.
Mais même lui a douté lorsqu'il a été contacté par des escrocs qui, selon lui, utilisaient l'intelligence artificiel…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?