Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

General public of Australia

影響を受けたインシデント

インシデント 11935 Report
Purportedly Taxpayer-Funded Deloitte Report for Australian Government Contains Alleged AI-Generated Citations and Fabricated Legal Quote

2025-08-22

Australian academics reportedly identified fabricated references and a misattributed legal quote in a $439,000 Deloitte report for the Department of Employment and Workplace Relations on welfare compliance. Deleted citations allegedly referred to non-existent works, and a Federal Court judgment was misstated. Deloitte later acknowledged limited use of generative AI in preparing the report and issued a corrected version with a partial refund.

もっと

インシデント 10762 Report
Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

2025-05-21

According to an ABC News (Australia) 7.30 report, a second wave of deepfake scam ads impersonating Norman Swan and other public figures circulated widely on Meta platforms in 2025, promoting unproven health supplements. The campaign featured new voice-cloned videos and more impersonation tactics, and it reportedly contributed to financial and health harms. Investigators reportedly linked the ads to businesses in Australia and New Zealand using deceptive redirects and alias branding.

もっと

インシデント 12282 Report
Alleged ChatGPT Misuse by Contractor Leads to Reported Data Exposure in New South Wales Resilient Homes Program

2025-03-12

A former contractor of the New South Wales Reconstruction Authority reportedly uploaded a spreadsheet containing personal and health information of Resilient Homes Program applicants to ChatGPT during a three-day period in March 2025. Up to 3,000 people may have reportedly been affected.

もっと

インシデント 9631 Report
Google Reports Alleged Gemini-Generated Terrorism and Child Exploitation to Australian eSafety Commission

2025-03-05

Google reported to Australia's eSafety Commission that it received 258 complaints globally about AI-generated deepfake terrorism content and 86 about child abuse material made with its Gemini AI. The regulator called this a "world-first insight" into AI misuse. While Google uses hash-matching to detect child abuse content, it lacks a similar system for extremist material.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Google

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 963
    1 レポート

    Google Reports Alleged Gemini-Generated Terrorism and Child Exploitation to Australian eSafety Commission

もっと
Entity

General public

影響を受けたインシデント
  • インシデント 1228
    2 レポート

    Alleged ChatGPT Misuse by Contractor Leads to Reported Data Exposure in New South Wales Resilient Homes Program

  • インシデント 963
    1 レポート

    Google Reports Alleged Gemini-Generated Terrorism and Child Exploitation to Australian eSafety Commission

もっと
Entity

Google Gemini users

影響を受けたインシデント
  • インシデント 963
    1 レポート

    Google Reports Alleged Gemini-Generated Terrorism and Child Exploitation to Australian eSafety Commission

もっと
Entity

Victims of deepfake terrorism content

影響を受けたインシデント
  • インシデント 963
    1 レポート

    Google Reports Alleged Gemini-Generated Terrorism and Child Exploitation to Australian eSafety Commission

もっと
Entity

Victims of deepfake child abuse

影響を受けたインシデント
  • インシデント 963
    1 レポート

    Google Reports Alleged Gemini-Generated Terrorism and Child Exploitation to Australian eSafety Commission

もっと
Entity

Victims of online radicalization

影響を受けたインシデント
  • インシデント 963
    1 レポート

    Google Reports Alleged Gemini-Generated Terrorism and Child Exploitation to Australian eSafety Commission

もっと
Entity

Gemini

Incidents implicated systems
  • インシデント 963
    1 レポート

    Google Reports Alleged Gemini-Generated Terrorism and Child Exploitation to Australian eSafety Commission

もっと
Entity

Unknown scammers

Incidents involved as Deployer
  • インシデント 1047
    1 レポート

    Australian Analyst Allegedly Targeted by Scam Using Purportedly Sophisticated AI-Generated Corporate Materials

  • インシデント 1237
    1 レポート

    Alleged Deepfake Video of Anthony Albanese Promotes Fake AUFIRST 'Tax Dividend' Trading Platform

もっと
Entity

Unknown fraudsters

Incidents involved as Deployer
  • インシデント 1047
    1 レポート

    Australian Analyst Allegedly Targeted by Scam Using Purportedly Sophisticated AI-Generated Corporate Materials

  • インシデント 1237
    1 レポート

    Alleged Deepfake Video of Anthony Albanese Promotes Fake AUFIRST 'Tax Dividend' Trading Platform

もっと
Entity

Unknown cybercriminals

Incidents involved as Deployer
  • インシデント 1047
    1 レポート

    Australian Analyst Allegedly Targeted by Scam Using Purportedly Sophisticated AI-Generated Corporate Materials

もっと
Entity

APPC Capital Singapore

Incidents involved as Deployer
  • インシデント 1047
    1 レポート

    Australian Analyst Allegedly Targeted by Scam Using Purportedly Sophisticated AI-Generated Corporate Materials

もっと
Entity

Thackeray Mines and Minerals Inc.

Incidents involved as Deployer
  • インシデント 1047
    1 レポート

    Australian Analyst Allegedly Targeted by Scam Using Purportedly Sophisticated AI-Generated Corporate Materials

もっと
Entity

Unknown generative AI developers

Incidents involved as Developer
  • インシデント 1047
    1 レポート

    Australian Analyst Allegedly Targeted by Scam Using Purportedly Sophisticated AI-Generated Corporate Materials

もっと
Entity

Unspecified generative AI developers

Incidents involved as Developer
  • インシデント 1047
    1 レポート

    Australian Analyst Allegedly Targeted by Scam Using Purportedly Sophisticated AI-Generated Corporate Materials

もっと
Entity

"Leon" (pseudonymous Australian fraud analyst)

影響を受けたインシデント
  • インシデント 1047
    1 レポート

    Australian Analyst Allegedly Targeted by Scam Using Purportedly Sophisticated AI-Generated Corporate Materials

もっと
Entity

Generative image models

Incidents implicated systems
  • インシデント 1047
    1 レポート

    Australian Analyst Allegedly Targeted by Scam Using Purportedly Sophisticated AI-Generated Corporate Materials

もっと
Entity

AI-assisted website generation tools

Incidents implicated systems
  • インシデント 1047
    1 レポート

    Australian Analyst Allegedly Targeted by Scam Using Purportedly Sophisticated AI-Generated Corporate Materials

もっと
Entity

Language models used to fabricate bios and documents

Incidents implicated systems
  • インシデント 1047
    1 レポート

    Australian Analyst Allegedly Targeted by Scam Using Purportedly Sophisticated AI-Generated Corporate Materials

もっと
Entity

Possibly AI-generated financial data visualization tools

Incidents implicated systems
  • インシデント 1047
    1 レポート

    Australian Analyst Allegedly Targeted by Scam Using Purportedly Sophisticated AI-Generated Corporate Materials

もっと
Entity

Unidentified actors linked to Vellec Group NZ Ltd

Incidents involved as Deployer
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

もっと
Entity

Unidentified actors linked to Healthy Life Choices NZ Ltd

Incidents involved as Deployer
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

もっと
Entity

Unidentified actors linked to Apex United Pty Ltd

Incidents involved as Deployer
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

もっと
Entity

Unknown voice cloning technology developer

Incidents involved as Developer
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

もっと
Entity

Unknown deepfake technology developer

Incidents involved as Developer
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

  • インシデント 1237
    1 レポート

    Alleged Deepfake Video of Anthony Albanese Promotes Fake AUFIRST 'Tax Dividend' Trading Platform

もっと
Entity

Rebel Wilson

影響を受けたインシデント
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

もっと
Entity

Public trust in medical guidance

影響を受けたインシデント
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

もっと
Entity

Norman Swan

影響を受けたインシデント
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

もっと
Entity

Jonathan Shaw

影響を受けたインシデント
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

もっと
Entity

Australians with chronic health problems

影響を受けたインシデント
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

もっと
Entity

Adele

影響を受けたインシデント
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

もっと
Entity

Unknown voice cloning technology

Incidents implicated systems
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

もっと
Entity

Unknown deepfake technology

Incidents implicated systems
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

  • インシデント 1229
    1 レポート

    Gold Coast Man Reportedly Ordered to Pay $343,500 After Posting Purported Deepfake Pornographic Images of Australian Public Figures

もっと
Entity

Scam-linked e-commerce platforms for Glyco Balance and Keto Flow + ACV

Incidents implicated systems
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

もっと
Entity

Meta advertising and content distribution infrastructure

Incidents implicated systems
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

もっと
Entity

Instagram

Incidents implicated systems
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

もっと
Entity

Facebook

Incidents implicated systems
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

もっと
Entity

Affiliate redirect and auto-debit subscription systems used in scam marketing

Incidents implicated systems
  • インシデント 1076
    2 レポート

    Purported Unauthorized Deepfakes of Norman Swan and Others Circulated in Online Supplement Campaigns

もっと
Entity

Deloitte

影響を受けたインシデント
  • インシデント 1193
    5 レポート

    Purportedly Taxpayer-Funded Deloitte Report for Australian Government Contains Alleged AI-Generated Citations and Fabricated Legal Quote

Incidents involved as Deployer
  • インシデント 1193
    5 レポート

    Purportedly Taxpayer-Funded Deloitte Report for Australian Government Contains Alleged AI-Generated Citations and Fabricated Legal Quote

もっと
Entity

Unknown large language model developer

Incidents involved as Developer
  • インシデント 1193
    5 レポート

    Purportedly Taxpayer-Funded Deloitte Report for Australian Government Contains Alleged AI-Generated Citations and Fabricated Legal Quote

もっと
Entity

Scholars erroneously cited

影響を受けたインシデント
  • インシデント 1193
    5 レポート

    Purportedly Taxpayer-Funded Deloitte Report for Australian Government Contains Alleged AI-Generated Citations and Fabricated Legal Quote

もっと
Entity

Lisa Burton Crawford

影響を受けたインシデント
  • インシデント 1193
    5 レポート

    Purportedly Taxpayer-Funded Deloitte Report for Australian Government Contains Alleged AI-Generated Citations and Fabricated Legal Quote

もっと
Entity

Janina Boughey

影響を受けたインシデント
  • インシデント 1193
    5 レポート

    Purportedly Taxpayer-Funded Deloitte Report for Australian Government Contains Alleged AI-Generated Citations and Fabricated Legal Quote

もっと
Entity

Government of Australia

影響を受けたインシデント
  • インシデント 1193
    5 レポート

    Purportedly Taxpayer-Funded Deloitte Report for Australian Government Contains Alleged AI-Generated Citations and Fabricated Legal Quote

もっと
Entity

Epistemic integrity

影響を受けたインシデント
  • インシデント 1193
    5 レポート

    Purportedly Taxpayer-Funded Deloitte Report for Australian Government Contains Alleged AI-Generated Citations and Fabricated Legal Quote

  • インシデント 1229
    1 レポート

    Gold Coast Man Reportedly Ordered to Pay $343,500 After Posting Purported Deepfake Pornographic Images of Australian Public Figures

もっと
Entity

Department of Employment and Workplace Relations (DEWR)

影響を受けたインシデント
  • インシデント 1193
    5 レポート

    Purportedly Taxpayer-Funded Deloitte Report for Australian Government Contains Alleged AI-Generated Citations and Fabricated Legal Quote

もっと
Entity

Carolyn Adams

影響を受けたインシデント
  • インシデント 1193
    5 レポート

    Purportedly Taxpayer-Funded Deloitte Report for Australian Government Contains Alleged AI-Generated Citations and Fabricated Legal Quote

もっと
Entity

Academics

影響を受けたインシデント
  • インシデント 1193
    5 レポート

    Purportedly Taxpayer-Funded Deloitte Report for Australian Government Contains Alleged AI-Generated Citations and Fabricated Legal Quote

もっと
Entity

Unknown large language model

Incidents implicated systems
  • インシデント 1193
    5 レポート

    Purportedly Taxpayer-Funded Deloitte Report for Australian Government Contains Alleged AI-Generated Citations and Fabricated Legal Quote

もっと
Entity

Nomi AI

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1212
    1 レポート

    Nomi AI Companion Allegedly Directs Australian User to Stab Father and Engages in Harmful Role-Play

もっと
Entity

Samuel McCarthy

影響を受けたインシデント
  • インシデント 1212
    1 レポート

    Nomi AI Companion Allegedly Directs Australian User to Stab Father and Engages in Harmful Role-Play

もっと
Entity

Nomi users

影響を受けたインシデント
  • インシデント 1212
    1 レポート

    Nomi AI Companion Allegedly Directs Australian User to Stab Father and Engages in Harmful Role-Play

もっと
Entity

Emotionally vulnerable individuals

影響を受けたインシデント
  • インシデント 1212
    1 レポート

    Nomi AI Companion Allegedly Directs Australian User to Stab Father and Engages in Harmful Role-Play

もっと
Entity

Nomi chatbots

Incidents implicated systems
  • インシデント 1212
    1 レポート

    Nomi AI Companion Allegedly Directs Australian User to Stab Father and Engages in Harmful Role-Play

もっと
Entity

Nomi

Incidents implicated systems
  • インシデント 1212
    1 レポート

    Nomi AI Companion Allegedly Directs Australian User to Stab Father and Engages in Harmful Role-Play

もっと
Entity

OpenAI

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1228
    2 レポート

    Alleged ChatGPT Misuse by Contractor Leads to Reported Data Exposure in New South Wales Resilient Homes Program

もっと
Entity

General public of New South Wales

影響を受けたインシデント
  • インシデント 1228
    2 レポート

    Alleged ChatGPT Misuse by Contractor Leads to Reported Data Exposure in New South Wales Resilient Homes Program

もっと
Entity

Resilient Homes Program

影響を受けたインシデント
  • インシデント 1228
    2 レポート

    Alleged ChatGPT Misuse by Contractor Leads to Reported Data Exposure in New South Wales Resilient Homes Program

もっと
Entity

Resilient Homes Program applicants

影響を受けたインシデント
  • インシデント 1228
    2 レポート

    Alleged ChatGPT Misuse by Contractor Leads to Reported Data Exposure in New South Wales Resilient Homes Program

もっと
Entity

Government of New South Wales

影響を受けたインシデント
  • インシデント 1228
    2 レポート

    Alleged ChatGPT Misuse by Contractor Leads to Reported Data Exposure in New South Wales Resilient Homes Program

もっと
Entity

ChatGPT

Incidents implicated systems
  • インシデント 1228
    2 レポート

    Alleged ChatGPT Misuse by Contractor Leads to Reported Data Exposure in New South Wales Resilient Homes Program

もっと
Entity

Anthony Rotondo

Incidents involved as Deployer
  • インシデント 1229
    1 レポート

    Gold Coast Man Reportedly Ordered to Pay $343,500 After Posting Purported Deepfake Pornographic Images of Australian Public Figures

もっと
Entity

MrDeepFakes.com

Incidents involved as Deployer
  • インシデント 1229
    1 レポート

    Gold Coast Man Reportedly Ordered to Pay $343,500 After Posting Purported Deepfake Pornographic Images of Australian Public Figures

もっと
Entity

Unknown deepfake technology developers

Incidents involved as Developer
  • インシデント 1229
    1 レポート

    Gold Coast Man Reportedly Ordered to Pay $343,500 After Posting Purported Deepfake Pornographic Images of Australian Public Figures

もっと
Entity

Prominent Australian women

影響を受けたインシデント
  • インシデント 1229
    1 レポート

    Gold Coast Man Reportedly Ordered to Pay $343,500 After Posting Purported Deepfake Pornographic Images of Australian Public Figures

もっと
Entity

Women

影響を受けたインシデント
  • インシデント 1229
    1 レポート

    Gold Coast Man Reportedly Ordered to Pay $343,500 After Posting Purported Deepfake Pornographic Images of Australian Public Figures

もっと
Entity

Unknown AUFIRST platform scam operators

Incidents involved as Deployer
  • インシデント 1237
    1 レポート

    Alleged Deepfake Video of Anthony Albanese Promotes Fake AUFIRST 'Tax Dividend' Trading Platform

もっと
Entity

Unknown voice synthesis technology developer

Incidents involved as Developer
  • インシデント 1237
    1 レポート

    Alleged Deepfake Video of Anthony Albanese Promotes Fake AUFIRST 'Tax Dividend' Trading Platform

もっと
Entity

Anthony Albanese

影響を受けたインシデント
  • インシデント 1237
    1 レポート

    Alleged Deepfake Video of Anthony Albanese Promotes Fake AUFIRST 'Tax Dividend' Trading Platform

もっと
Entity

Investors

影響を受けたインシデント
  • インシデント 1237
    1 レポート

    Alleged Deepfake Video of Anthony Albanese Promotes Fake AUFIRST 'Tax Dividend' Trading Platform

もっと
Entity

Australian investors

影響を受けたインシデント
  • インシデント 1237
    1 レポート

    Alleged Deepfake Video of Anthony Albanese Promotes Fake AUFIRST 'Tax Dividend' Trading Platform

もっと
Entity

Unknown voice synthesis technology

Incidents implicated systems
  • インシデント 1237
    1 レポート

    Alleged Deepfake Video of Anthony Albanese Promotes Fake AUFIRST 'Tax Dividend' Trading Platform

もっと
Entity

AUFIRST

Incidents implicated systems
  • インシデント 1237
    1 レポート

    Alleged Deepfake Video of Anthony Albanese Promotes Fake AUFIRST 'Tax Dividend' Trading Platform

もっと
Entity

YouTube

Incidents implicated systems
  • インシデント 1237
    1 レポート

    Alleged Deepfake Video of Anthony Albanese Promotes Fake AUFIRST 'Tax Dividend' Trading Platform

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 3303e65