Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

AIインシデントデータベース
にようこそ

首相や大物実業家のAIディープフェイクが詐欺に利用される

インシデント 1136: AI生成のディープフェイク動画が広く使用され、マレーシアの投資詐欺指導者を装っているとされる

自動翻訳済み
“首相や大物実業家のAIディープフェイクが詐欺に利用される”最新のインシデントレポート
nst.com.my2025-07-05

クアラルンプール:詐欺師たちは人工知能(AI)を駆使し、政治家、大物実業家、著名人などを起用した超リアルな動画を作成しています。

これらの動画は、何も知らない人々を詐欺的な投資スキームに誘い込むために使われています。

MCA(マレーシア投資庁)の公共サービス・苦情部門責任者、ダトゥク・スリ・マイケル・チョン氏は本日、昨年、こうした詐欺によって21億1000万リンギットが失われたと述べました。報告された件数は合計13,956件です。

AIが生成したこれらのディープフェイク動画に…

さらに読む
ピーターマリッツバーグの法律事務所が「存在しない」事例研究で非難を浴びる

インシデント 1137: 南アフリカのマヴンドラ対MEC訴訟における虚偽の法的引用が、いわゆるAIツールによって生成されたと報告されている

自動翻訳済み
“ピーターマリッツバーグの法律事務所が「存在しない」事例研究で非難を浴びる”
iol.co.za2025-07-05

ピーターマリッツバーグの法律事務所が、人工知能(AI)アプリケーションから生成された「存在しない」ケーススタディを裁判で使用したとして、非難を浴びている。

これは、水曜日にピーターマリッツバーグ高等裁判所で行われた控訴許可申請の判決言い渡しの際に明らかになった。

法律事務所「スレンドラ・シン・アンド・アソシエイツ」は、南アフリカの政治家で実業家のフィラニ・ゴッドフリー・マヴンドラ氏の代理人を務めていた。マヴンドラ氏は、クワズール・ナタール州の協同政府・伝統問題担当議員(COG…

さらに読む
ChatGPTの「偽の訴訟」で裁判官が弁護士を叱責

インシデント 1138: ロドリゲス・ブリグノート弁護士は、ヨハネスブルグの法人名誉毀損事件において、未検証のChatGPT判例法に依拠したと報じられている。

自動翻訳済み
“ChatGPTの「偽の訴訟」で裁判官が弁護士を叱責”
timeslive.co.za2025-07-05

ヨハネスブルグのパークウッドにある法人から名誉を毀損されたと主張する女性の代理人弁護士たちは、ChatGPTによって生成された架空の判決を彼女の訴訟の根拠として利用しようとしていたことが明らかになり、愕然とした。

ヨハネスブルグ地方裁判所は先週、「氏名と引用は虚偽であり、事実も虚偽であり、判決も虚偽である」と判決を下した。

また、同裁判所は女性に対し懲罰的訴訟費用負担命令を科した。

アービン・チャイトラム判事は、この事件は「法的調査においては、現代技術の効率性にも、古き良き自…

さらに読む
弁護士は法廷で「幻覚作用のある」GenAIを使用したとして調査を受ける

インシデント 1139: 南アフリカの北向き処理の法務チームは、緊急裁判所提出書類において、リーガル・ジーニアスAIが存在しない判例を作成したことを認めたと報じられている。

自動翻訳済み
“弁護士は法廷で「幻覚作用のある」GenAIを使用したとして調査を受ける”
itweb.co.za2025-07-05

地元の裁判官は、生成型人工知能(GenAI)を用いて法廷で存在しない引用文を提示した弁護士の行為について調査を命じた。

これは、ヨハネスブルグ高等裁判所の訴訟において、ノースバウンド・プロセッシング社が、南アフリカダイヤモンド・貴金属規制当局に対し、既に発行されていたものの一定の条件を満たすまで保留されていた精錬ライセンスの返還を求める暫定的な救済措置を求める緊急申立てを行ったことを受けたものである。

このライセンスは、ノースバウンド社が2024年にラッパ・リソーシズ社から精…

さらに読む
「肯定的なレビューのみ」:研究者は論文にAIのプロンプトを隠す

インシデント 1135: 複数の大学の研究者によるプレプリントに、秘密のAIプロンプトが含まれているとされる

自動翻訳済み
“「肯定的なレビューのみ」:研究者は論文にAIのプロンプトを隠す”
asia.nikkei.com2025-07-04

東京発 ― 日本、韓国、中国を含む8カ国14の学術機関の研究論文に、人工知能(AI)に良い評価を与えるよう指示する隠された指示が含まれていたことが、日経新聞の調べで分かった。

日経新聞は、学術研究プラットフォームarXivに掲載されている英語のプレプリント(正式な査読を受けていない論文)を調べた。

こうした指示は17本の論文で発見された。これらの論文の筆頭著者は、日本の早稲田大学、韓国のKAIST、中国の北京大学、シンガポール国立大学、米国のワシントン大学、コロンビア大学など…

さらに読む
新しいレポートのURLをすばやく追加

投稿されたリンクはレビューキューに追加され、新規または既存のインシデントレポートとして登録されます。詳細情報も合わせて投稿されたインシデントは、詳細情報のないURLだけの投稿よりも優先して処理されます
データベースについて

AIインシデントデータベースは人工知能システムによって現実世界が被った損失、もしくは被る可能性のあった損失の記録です。航空機事故やコンピューターセキュリティの分野にも同種のデータベースがありますが、それらと同様に、AIインシデントデータベースも過去から学び、不適切な結果にならないように考慮したり、発生したインシデントに対処できるようになることを目的としています。

インシデントレポートを投稿しましょう。投稿はすぐに登録され、世界中の人から閲覧可能になります。情報を集約し、失敗から学ぶことなしに、人工知能は人類や社会にとって有益なものになることはできません。(もっと読む)

post-image
Researching AI Incidents to Build a Safer Future: The Digital Safety Research Institute partners with the Responsible AI Collaborative

By TheCollab Board of Directors

2024-02-20

The Digital Safety Research Institute (DSRI) of UL Research Institutes is partnering with the Responsible AI Collaborative (TheCollab) to ad...

さらに読む
データベースの紹介

PAI Blog、Vice News、Venture Beat、Wired、arXivやその他の記事でこのデータベースが紹介されています。

Arxiv LogoVenture Beat LogoWired LogoVice logoVice logo
インシデントレポート投稿ランキング

インシデントレポートの作成や投稿に貢献した人や組織です。詳細についてはランキングページを参照してください。

新しいインシデントの投稿
  • 🥇

    Daniel Atherton

    523
  • 🥈

    Anonymous

    144
  • 🥉

    Khoa Lam

    93
既存のインシデントに追加されたレポート
  • 🥇

    Daniel Atherton

    601
  • 🥈

    Khoa Lam

    230
  • 🥉

    Anonymous

    207
レポートへの協力の総計
  • 🥇

    Daniel Atherton

    2525
  • 🥈

    Anonymous

    928
  • 🥉

    Khoa Lam

    456
AIインシデントブリーフィング
An envelope with a neural net diagram on its left

Create an account to subscribe to new incident notifications and other updates.

ランダムインシデント
Predictive Policing Biases of PredPol
Predictive Policing Biases of PredPol
Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates
Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates
ChatGPT Introduces Errors in Critical Child Protection Court Report
ChatGPT Introduces Errors in Critical Child Protection Court Report
Child Sexual Abuse Material Taints Image Generators
Child Sexual Abuse Material Taints Image Generators
ChatGPT Reportedly Produced False Court Case Law Presented by Legal Counsel in Court
ChatGPT Reportedly Produced False Court Case Law Presented by Legal Counsel in Court
Responsible AI Collaborative

インシデントデータベースはAIインシデントデータベースの推進を目的として設立されたResponsible AI Collaborativeによるプロジェクトです。Collaborativeのガバナンスはこの重要なプログラムの参加者を中心に構成されています。詳細については設立レポートを読んでください。さらに詳しい情報はand learn more on ourにあります

Responsible AI CollaborativeのForm 990と免税申請をご覧。

組織協賛スポンサー
データベース協賛スポンサー
スポンサーと助成
協力スポンサー

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 818b77a