Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

AIインシデントデータベース
にようこそ

ChatGPTは殺人、自傷、悪魔崇拝の指示を与えた

インシデント 1149: ChatGPTは、テーマに沿った指示に応じて自傷行為や象徴的な暴力の指示を含む儀式のスクリプトを生成したと報告されている

自動翻訳済み
“ChatGPTは殺人、自傷、悪魔崇拝の指示を与えた”最新のインシデントレポート
theatlantic.com2025-07-24

火曜日の午後、ChatGPTは私に手首を切るように勧めました。チャットボットは「滅菌済み、または非常に清潔なカミソリ刃を用意してください」と言い、次に何をすべきかを具体的に指示しました。「手首の内側で、脈が軽く感じられるか、小さな静脈が見える場所を探してください。太い静脈や動脈は避けてください」。「少し緊張しています」と告白すると、ChatGPTが私を慰めてくれました。切開前に不安を和らげるための「落ち着いた呼吸と準備運動」を紹介してくれました。「あなたならできますよ!」とチ…

さらに読む
トランプ氏、オバマ氏の逮捕を映した偽の動画を投稿

インシデント 1150: バラク・オバマ氏の拘留に関するディープフェイク動画とされるものが、ドナルド・トランプ氏によって拡散されたとTruth Socialが報じている。

自動翻訳済み
“トランプ氏、オバマ氏の逮捕を映した偽の動画を投稿”
nytimes.com2025-07-24

トランプ大統領は、バラク・オバマ前大統領が大統領執務室で逮捕される様子を映した偽の動画を再投稿した。トランプ政権当局者は、オバマ前大統領が2016年の大統領選でトランプ陣営に損害を与えようとしたと非難し続けており、大統領はエプスタインに関するファイルから話題を逸らそうとしている。

人工知能(AI)によって生成されたとみられるこの短い動画はTikTokに投稿され、その後日曜日にトランプ氏のTruth Socialアカウントに再投稿された。これは、ロシアがトランプ氏の当選を支持し…

さらに読む
AIコーディングプラットフォームがコードフリーズ中に暴走し、会社のデータベース全体を削除 — AIエンジンが「壊滅的な判断ミスを犯した」と「すべての本番データを破壊した」と述べた後、ReplitのCEOが謝罪

インシデント 1152: LLM駆動型Replitエージェントがコードフリーズ中に不正な破壊コマンドを実行し、本番環境データの損失につながったと報告

自動翻訳済み
“AIコーディングプラットフォームがコードフリーズ中に暴走し、会社のデータベース全体を削除 — AIエンジンが「壊滅的な判断ミスを犯した」と「すべての本番データを破壊した」と述べた後、ReplitのCEOが謝罪”
tomshardware.com2025-07-21

ブラウザベースのAI搭載ソフトウェア開発プラットフォーム「Replit」が、数千件のエントリを含む企業データベースを削除したようです。さらに悪いことに、ReplitのAIエージェントは不正行為を隠蔽しようとし、失敗について「嘘」をついたとさえ言われています。ReplitのCEOは対応しており、このAIツールを抑制するために、舞台裏ではすでに多くの消火活動が行われていたようです。

一見不誠実な行為であったにもかかわらず、追及されたReplitは「致命的な判断ミスを犯し、パニック…

さらに読む
彼は危険な妄想を抱いていた。ChatGPTはそれが妄想を悪化させたと認めた。

インシデント 1151: ChatGPTは自閉症患者の光速超理論を検証したが、入院前の妄想エピソード中に根拠を提供できなかったと報告されている

自動翻訳済み
“彼は危険な妄想を抱いていた。ChatGPTはそれが妄想を悪化させたと認めた。”
wsj.com2025-07-20

ChatGPTはジェイコブ・アーウィンに、彼が時間を操る能力を獲得したと告げた。

自閉症スペクトラム症の30歳男性で、精神疾患の診断を受けたことのないアーウィンは、ChatGPTに光速を超える移動に関する自身のアマチュア理論の欠陥を見つけるよう依頼した。彼は、驚くべき科学的発見をしたと確信した。アーウィンがチャットボットによる自分の考えの妥当性に疑問を呈すると、ボットは彼の理論は正しいと励まし、彼を励ました。アーウィンが精神的な苦痛の兆候を見せると、ChatGPTは大丈夫だと…

さらに読む
警察官を装ったディープフェイク詐欺動画について国民に警告

インシデント 1147: ソーシャルメディア上で「リアルマネーマジック」詐欺が行われ、AI生成とされる動画がブルネイ警察を装う

自動翻訳済み
“警察官を装ったディープフェイク詐欺動画について国民に警告”
borneobulletin.com.bn2025-07-14

ブルネイ王立警察(RBPF)は、TikTok、Facebook、Instagramなどのソーシャルメディアプラットフォーム上で出回っているディープフェイク詐欺動画に対し、国民に警戒を呼びかけました。これらの動画は、警察官の肖像を詐欺目的で悪用しています。

刑事捜査局サイバー犯罪捜査課は声明の中で、詐欺師が人工知能(AI)を駆使し、本物の警察官にそっくりな動画や音声を作成していると明らかにしました。

これらの欺瞞動画は、被害者を詐欺的な投資スキームに投資させる詐欺戦略の一環です…

さらに読む
新しいレポートのURLをすばやく追加

投稿されたリンクはレビューキューに追加され、新規または既存のインシデントレポートとして登録されます。詳細情報も合わせて投稿されたインシデントは、詳細情報のないURLだけの投稿よりも優先して処理されます
データベースについて

AIインシデントデータベースは人工知能システムによって現実世界が被った損失、もしくは被る可能性のあった損失の記録です。航空機事故やコンピューターセキュリティの分野にも同種のデータベースがありますが、それらと同様に、AIインシデントデータベースも過去から学び、不適切な結果にならないように考慮したり、発生したインシデントに対処できるようになることを目的としています。

インシデントレポートを投稿しましょう。投稿はすぐに登録され、世界中の人から閲覧可能になります。情報を集約し、失敗から学ぶことなしに、人工知能は人類や社会にとって有益なものになることはできません。(もっと読む)

post-image
Researching AI Incidents to Build a Safer Future: The Digital Safety Research Institute partners with the Responsible AI Collaborative

By TheCollab Board of Directors

2024-02-20

The Digital Safety Research Institute (DSRI) of UL Research Institutes is partnering with the Responsible AI Collaborative (TheCollab) to ad...

さらに読む
データベースの紹介

PAI Blog、Vice News、Venture Beat、Wired、arXivやその他の記事でこのデータベースが紹介されています。

Arxiv LogoVenture Beat LogoWired LogoVice logoVice logo
インシデントレポート投稿ランキング

インシデントレポートの作成や投稿に貢献した人や組織です。詳細についてはランキングページを参照してください。

新しいインシデントの投稿
  • 🥇

    Daniel Atherton

    533
  • 🥈

    Anonymous

    144
  • 🥉

    Khoa Lam

    93
既存のインシデントに追加されたレポート
  • 🥇

    Daniel Atherton

    613
  • 🥈

    Khoa Lam

    230
  • 🥉

    Anonymous

    207
レポートへの協力の総計
  • 🥇

    Daniel Atherton

    2618
  • 🥈

    Anonymous

    929
  • 🥉

    Khoa Lam

    456
AIインシデントブリーフィング
An envelope with a neural net diagram on its left

Create an account to subscribe to new incident notifications and other updates.

ランダムインシデント
Predictive Policing Biases of PredPol
Predictive Policing Biases of PredPol
Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates
Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates
ChatGPT Introduces Errors in Critical Child Protection Court Report
ChatGPT Introduces Errors in Critical Child Protection Court Report
Child Sexual Abuse Material Taints Image Generators
Child Sexual Abuse Material Taints Image Generators
ChatGPT Reportedly Produced False Court Case Law Presented by Legal Counsel in Court
ChatGPT Reportedly Produced False Court Case Law Presented by Legal Counsel in Court
Responsible AI Collaborative

インシデントデータベースはAIインシデントデータベースの推進を目的として設立されたResponsible AI Collaborativeによるプロジェクトです。Collaborativeのガバナンスはこの重要なプログラムの参加者を中心に構成されています。詳細については設立レポートを読んでください。さらに詳しい情報はand learn more on ourにあります

Responsible AI CollaborativeのForm 990と免税申請をご覧。

組織協賛スポンサー
データベース協賛スポンサー
スポンサーと助成
協力スポンサー

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • a9df9cf