Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

AIインシデントデータベース
にようこそ

新たなヌードル愛好家向け窃盗犯、偽AI動画生成プラットフォームで拡散

インシデント 1080: ヌードルフィール・スティーラー、詐欺とされるAIコンテンツプラットフォームを通じて配布されたと報道

自動翻訳済み
“新たなヌードル愛好家向け窃盗犯、偽AI動画生成プラットフォームで拡散”最新のインシデントレポート
morphisec.com2025-05-25

人工知能 (AI) が主流に採用されるにつれ、何百万人ものユーザーが日々、アートや音楽の生成から写真から動画への変換まで、コンテンツ作成に AI 搭載ツールを活用しています。しかしこの盛り上がりの中で、サイバー犯罪者は強力な新しい餌を発見しました。それは、ユーザーがアップロードすれば最先端のコンテンツ生成を約束する偽の AI プラットフォームです。この脅威分析全文は、こちらから PDF で閲覧または共有できます。 はじめに ------------ 前例のない変化の中で、攻撃…

さらに読む
リバタリアンのアカウントは選挙のわずか数時間前に偽のニュースとマウリシオ・マクリの偽のビデオを拡散した。

インシデント 1079: AI操作されたとされる動画には、ブエノスアイレスの投票前にマウリシオ・マクリがマヌエル・アドルニを支持し、シルビア・ロスペナートが撤退する様子が映っている。

自動翻訳済み
“リバタリアンのアカウントは選挙のわずか数時間前に偽のニュースとマウリシオ・マクリの偽のビデオを拡散した。”
lanacion.com.ar2025-05-23

ブエノスアイレス市での投票の数時間前に、カーサ・ロサダ(大統領府)にリンクしているユーザーのアカウントが、マウリシオ・マクリ氏とブエノスアイレス州議会選挙の候補者であるシルビア・ロスペナート氏に関する偽のニュースや偽の動画を使って、悪質なキャンペーンを開始した。プロは選挙裁判所に告訴状を提出し、選挙禁止期間中に「欺瞞」によって「投票を誘導」し、ラ・リベルタッド・アバンサ(LLA)の候補者マヌエル・アドルニに有利になるように策略を働かせたと主張した。

土曜日の午後、X(旧Twi…

さらに読む
アラート番号: I-051525-PSA 2025年5月15日 米国高官を装った悪意あるメッセージキャンペーン

インシデント 1077: FBIは、AI生成の音声を使用した政府関係者を狙ったヴィッシングとスミッシング攻撃が継続中であると報告

自動翻訳済み
“アラート番号: I-051525-PSA 2025年5月15日 米国高官を装った悪意あるメッセージキャンペーン”
ic3.gov2025-05-23

FBIは、現在進行中の悪質なテキストメッセージおよび音声メッセージキャンペーンについて、一般の方々に警告と対策のヒントを提供するために、この発表を行いました。2025年4月以降、悪質な攻撃者は米国高官を装い、個人を標的としています。その多くは、現職または元職の米国連邦政府または州政府高官とその関係者です。米国高官を装ったメッセージを受信した場合は、本物であるとは思わないでください。

キャンペーンの詳細

悪質な攻撃者は、米国高官を装ったテキストメッセージとAI生成音声メッセージ…

さらに読む
ノーマン・スワンの��ディープフェイク動画が、人々を騙して健康を害するリスクを負わせ、効果の証明されていないサプリメントを購入させている。

インシデント 1076: ノーマン・スワンらの無許可ディープフェイクがオンラインサプリメントキャンペーンで拡散

自動翻訳済み
“ノーマン・スワンのディープフェイク動画が、人々を騙して健康を害するリスクを負わせ、効果の証明されていないサプリメントを購入させている。”
abc.net.au2025-05-22

それは約18ヶ月前に始まりました。当時も今も、衝撃的です。

リスナー、視聴者、友人、同僚、家族から連絡が来るようになりました。皆、当時も今も、ほぼ同じ質問をしてきました。

「あなたが出演しているこの広告は本物ですか? 商品を買ってもいいですか?」

彼らが見たのは、FacebookやInstagramで見た動画や記事で、心臓病、糖尿病、肥満の治療を謳うサプリメントや減量商品を私が宣伝しているものでした。

私はしばしば医療専門家を蔑視し、当時の科学的知見を「愚かだ」と罵倒して…

さらに読む
警察は顔認識カメラでニューオーリンズを秘密裏に監視していた

インシデント 1075: ニューオーリンズ警察は、地方条例に反して、プロジェクトNOLAが提供するリアルタイム顔認識アラートを使用したと報じられている。

自動翻訳済み
“警察は顔認識カメラでニューオーリンズを秘密裏に監視していた”
washingtonpost.com2025-05-19

ニューオーリンズ --- ワシントン・ポスト紙の調査によると、ニューオーリンズ警察は2年間にわたり、顔認識技術を秘密裏に活用し、容疑者を捜索していた。これはアメリカの主要都市では前例のない監視方法で、市の技術使用に関するガイドラインに違反する可能性がある。警察は、犯罪現場またはその付近に設置された監視カメラで撮影された静止画像から身元不明の犯人を特定するために、顔認識ソフトウェアをますます活用している。ニューオーリンズ警察はこの技術をさらに進化させ、200台以上の顔認識カメラ…

さらに読む
新しいレポートのURLをすばやく追加

投稿されたリンクはレビューキューに追加され、新規または既存のインシデントレポートとして登録されます。詳細情報も合わせて投稿されたインシデントは、詳細情報のないURLだけの投稿よりも優先して処理されます
データベースについて

AIインシデントデータベースは人工知能システムによって現実世界が被った損失、もしくは被る可能性のあった損失の記録です。航空機事故やコンピューターセキュリティの分野にも同種のデータベースがありますが、それらと同様に、AIインシデントデータベースも過去から学び、不適切な結果にならないように考慮したり、発生したインシデントに対処できるようになることを目的としています。

インシデントレポートを投稿しましょう。投稿はすぐに登録され、世界中の人から閲覧可能になります。情報を集約し、失敗から学ぶことなしに、人工知能は人類や社会にとって有益なものになることはできません。(もっと読む)

post-image
Researching AI Incidents to Build a Safer Future: The Digital Safety Research Institute partners with the Responsible AI Collaborative

By TheCollab Board of Directors

2024-02-20

The Digital Safety Research Institute (DSRI) of UL Research Institutes is partnering with the Responsible AI Collaborative (TheCollab) to ad...

さらに読む
データベースの紹介

PAI Blog、Vice News、Venture Beat、Wired、arXivやその他の記事でこのデータベースが紹介されています。

Arxiv LogoVenture Beat LogoWired LogoVice logoVice logo
インシデントレポート投稿ランキング

インシデントレポートの作成や投稿に貢献した人や組織です。詳細についてはランキングページを参照してください。

新しいインシデントの投稿
  • 🥇

    Daniel Atherton

    465
  • 🥈

    Anonymous

    144
  • 🥉

    Khoa Lam

    93
既存のインシデントに追加されたレポート
  • 🥇

    Daniel Atherton

    543
  • 🥈

    Khoa Lam

    230
  • 🥉

    Anonymous

    204
レポートへの協力の総計
  • 🥇

    Daniel Atherton

    2335
  • 🥈

    Anonymous

    923
  • 🥉

    Khoa Lam

    456
AIインシデントブリーフィング
An envelope with a neural net diagram on its left

Create an account to subscribe to new incident notifications and other updates.

ランダムインシデント
Predictive Policing Biases of PredPol
Predictive Policing Biases of PredPol
Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates
Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates
ChatGPT Introduces Errors in Critical Child Protection Court Report
ChatGPT Introduces Errors in Critical Child Protection Court Report
Child Sexual Abuse Material Taints Image Generators
Child Sexual Abuse Material Taints Image Generators
ChatGPT Reportedly Produced False Court Case Law Presented by Legal Counsel in Court
ChatGPT Reportedly Produced False Court Case Law Presented by Legal Counsel in Court
Responsible AI Collaborative

インシデントデータベースはAIインシデントデータベースの推進を目的として設立されたResponsible AI Collaborativeによるプロジェクトです。Collaborativeのガバナンスはこの重要なプログラムの参加者を中心に構成されています。詳細については設立レポートを読んでください。さらに詳しい情報はand learn more on ourにあります

Responsible AI CollaborativeのForm 990と免税申請をご覧。

組織協賛スポンサー
データベース協賛スポンサー
スポンサーと助成
協力スポンサー

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 300d90c