Skip to Content
logologo
AI Incident Database
寄付する
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ

AIインシデントデータベース
にようこそ

Loading...
ストウ警察の警官が、元パートナーを追跡するためにFlockシステムを悪用したとして告発された。

インシデント 1720: マサチューセッツ州ストウの警察官が、フロック社のナンバープレート読み取りシステムを使って元恋人を追跡した疑い

自動翻訳済み
“ストウ警察の警官が、元パートナーを追跡するためにFlockシステムを悪用したとして告発された。”最新のインシデントレポート
boston25news.com2026-10-01

マサチューセッツ州ストウ発 ― ストウ警察の警察官が、以前交際していた女性に関する情報を得るために警察のデータベースを繰り返し利用していたことが発覚し、懲戒処分を受ける可能性がある。

匿名を希望するこの女性は、ジェイソン・ロジャース巡査との関係を約5年前に解消したと語った。彼女は、その関係は虐待的であり、別れた後、身元、電話番号、ソーシャルメディアの利用状況を変えたと述べた。

この夏、彼女はロジャース巡査がストウ警察に勤務していた当時、Flockカメラシステムを使って自分の居場所を検索していたことを知ったという。

「これは私が逃げ出した虐待的な関係でした。身元を変えました」と女性は語った。「引っ越し、電話番号も変え、彼の番号を着信拒否し、ソーシャルメディアもほとんど利用していません。」

彼女は、自分の車のナンバープレート番号をウェブサイトに入力したところ、ロジャース巡査が2024年と2025年に複数回、自分の居場所を検索していたことを発見した。また、ロジャース巡査が彼女の家の前を車で通り過ぎていたことも確認したという。

「彼は私の居場所や行動を把握するために、違法に私の情報システムを利用したのです」と彼女は述べた。

ストウ警察署は、7月17日にロジャース容疑者に対し「州法違反の可能性」で刑事告訴を行ったと発表した。

同署によると、4週間にわたる内部調査の結果、ロジャース容疑者は2024年と2025年に複数回、州のシステムを利用して女性に関する情報を入手していたことが判明した。

女性は、ロジャース容疑者がFlockだけでなく、他の法執行機関のデータベースにもアクセスしていたと述べた。

「Flockには数回アクセスがありましたが、その後、CJISやCORI、その他アクセス可能なシステムも利用していました」と彼女は語った。

ストウ警察署は、ロジャース容疑者の行為が警察官として不適切であると判断し、7月に有給の行政休暇処分とした。7月31日現在、同容疑者は無給休暇となっている。

「あんな人がバッジと銃を持って街をうろついているなんて、絶対に許せない」と女性は語った。

彼女はロジャース容疑者に対する接近禁止命令も取得しており、少なくとも今後1年間は有効となる見込みだという。

「おかげで、後ろを気にせずに安心して外出できるようになったんです」と彼女は述べた。

ストウ警察署長は、来週、町議会でロジャース容疑者の雇用状況について審議が行われる予定だと述べた。

ボストン25ニュースはロジャース容疑者の弁護士にコメントを求めたが、まだ返答は得られていない。

さらに読む
Loading...
クック陣営、AIディープフェイクをめぐりヴァン・オーデン下院議員に停止命令書を送付

インシデント 1721: ウィスコンシン州選出のデリック・ヴァン・オーデン下院議員が、対立候補のレベッカ・クックが言っていないことを言っているように見せかけたディープフェイク動画を投稿したと報じられている。

自動翻訳済み
“クック陣営、AIディープフェイクをめぐりヴァン・オーデン下院議員に停止命令書を送付”
wpr.org2026-10-01

連邦議会議員候補レベッカ・クック氏の弁護士は、デリック・ヴァン・オーデン下院議員(共和党、プレーリー・デュ・シエン選出)に対し、ディープフェイク動画の使用を理由に、使用停止命令書を送付した。

民主党のクック氏は、今年11月に行われるウィスコンシン州第3選挙区の連邦議会議員選挙で、ヴァン・オーデン氏に挑む。この選挙は注目を集めている。

ヴァン・オーデン氏は、人工知能(AI)を用いて、クック氏が実際には言っていない発言をしている動画を自身のXアカウントに繰り返し投稿している。

このプラットフォームに投稿された動画には、AI画像・動画生成ツール「Grok Imagine」で作成されたことを示す自動ラベルが付けられている。

ある動画では、AIが生成したクックのアバターが「農民にパンがなければケーキを食べればいい。どうせ俺に投票するだろう」と発言している(https://x.com/derrickvanorden/status/2084754801930236269?s=20)。別の偽動画では、クックのアバターが「俺は今、共産主義者2人に投票した可能性が100%ある」と発言している(https://x.com/derrickvanorden/status/2087246624909099195?s=20)。

停止命令書は、特にヴァン・オーデン氏が8月4日に共有した動画を指摘している。この動画では、マイクに向かって話すクック氏の偽物が映っており、画面の端にジョー・バイデン前大統領のAI生成画像が浮かび上がる。

AI版のクック氏は、「可能な限りの腐敗を利用し、すべての不法移民に無料の医療を提供するため」に議会選挙に出馬すると述べている。

しかし、この主張は「全くの作り話」であると、停止命令書は述べている。

「クック氏は、彼女に帰せられているような発言は一切していません」と、弁護士のベン・スタッフォード氏は9月30日付の書簡で述べています。「あなたは、自身の政治的利益のために、ウィスコンシン州の有権者を欺き、彼女が言っていないことを言ったと信じ込ませ、彼女の評判を傷つけようと、このような虚偽のコンテンツを流布しているのです。」

この書簡は、ヴァン・オーデン氏が動画を共有することで、公人が「悪意を持って」他人を誹謗中傷することを禁じる州法に抵触する危険性があると指摘しています。名誉毀損には、他人の評判を傷つける目的で虚偽の声明を公表することも含まれると、書簡は述べています。

「これらの広告は、あなたの役職の品位を損なうだけでなく、ウィスコンシン州のコモンローにおける名誉毀損は、偽AIに対するウィスコンシン州の法的な保護の隙間を埋めるものです」と、書簡は述べています。

書簡には、クック氏の弁護士がヴァン・オーデン氏のソーシャルメディアアカウントを監視していること、そしてヴァン・オーデン氏が「AIを悪用してクック氏を誹謗中傷し続ける」場合、「あらゆる法的手段」を検討していると警告している。

「デリック・ヴァン・オーデンは自身の実績を前面に出して選挙戦を戦うことができず、代わりにAI動画を制作して私の発言を捏造することに時間とエネルギーを費やしている」とクック氏は声明で述べた(https://www.wispolitics.com/2026/cooke-campaign-hits-van-orden-with-cease-and-desist-over-ai-deepfake-videos-alleges-defamation-of-character/)。そして、ヴァン・オーデン氏が支持する連邦政府の「One Big Beautiful Act」(https://wisconsinexaminer.com/2026/09/23/data-center-debate-hits-3rd-congressional-district-race/)に言及した。「皮肉なことに、これらのディープフェイクは、デリック・ヴァン・オーデン氏がエネルギーと医療費を犠牲にして特別減税を与えたデータセンターによって助長されているのだ。」

OBBA(オッズ・ビリオンズ・ビジネス・アグリーメント)には多くの種類の企業に対する税制優遇措置が含まれており、データセンターを建設するテクノロジー企業はこれらの優遇措置を利用してきました。

ヴァン・オーデン陣営は、独自のプレスリリースでクック氏が「激しい癇癪を起こしている」と非難しました。

「レベッカ・クック氏は6年間、選挙運動を続けながら、自身の経歴や実績について有権者に嘘をついてきた」と陣営は述べています。

クック氏は2022年の予備選挙で、ウィスコンシン州南西部のドリフトレス地域にある第3選挙区から立候補しましたが、民主党のブラッド・パフ氏に敗れました。 2024年、クック氏は同議席を巡る民主党予備選で勝利したが、本選挙ではヴァン・オーデン氏に約3ポイント差で敗れた。

今週、ヴァン・オーデン氏はソーシャルメディア上で、グロック氏が作成した動画を投稿し、停止命令書に反論した。

この短い動画には、AIが生成した赤いアヒルが登場する。

「停止しろ!」とアヒルは叫ぶ。

さらに読む
Loading...
交通検問中に警察が警察犬を放った男性が心境を語る:「トラウマになった」

インシデント 1717: フロック・セーフティ社のナンバープレート読み取り装置がナンバープレートを誤読したとの報道を受け、オハイオ州トレド市警察は運転手を銃で脅して停車させ、警察犬を投入した。

自動翻訳済み
“交通検問中に警察が警察犬を放った男性が心境を語る:「トラウマになった」”
abcnews.com2026-09-30

オハイオ州在住の黒人男性が、盗難車と誤認された車両の捜査中に警察が停車させた際、警察犬を放たれたことで「精神的に大きなショックを受けている」と訴えている。警察のボディカメラ映像にはその様子が映っている。

全米黒人地位向上協会(NAACP)トレド支部は今週、警察犬の放たれを「不当」かつ「非人道的」だと非難した。

トレド在住のブランドン・アップチャーチさん(38歳)はABCニュースに対し、4月11日に停車させられた際、警察犬に前腕と肘を7回噛まれ、それ以来仕事ができていないと語った。

「肘は元々ひどい状態だった」と、アップチャーチさんはABCニュース特派員のアイク・エジオチ氏に語った。「何もできない」。

アップチャーチさんによると、従兄弟を職場から家まで送っていたところ、警察官に停車を命じられたという。

「彼らはすぐに銃を構えて出てきた」とアップチャーチさんは語った。「私の車に近づいて、免許証や保険証など、何も尋ねなかった」。

トレド警察が公開したボディカメラ映像によると、アップチャーチ容疑者は盗難車の疑いで停車を命じられた。映像には、アップチャーチ容疑者がなぜ停車させられたのかと尋ねる声が聞こえる中、警察官は繰り返し車から降りるよう指示している。

アップチャーチ容疑者がトラックから降りると、警察官は彼に背を向けるよう命じる。アップチャーチ容疑者は「何で止められたんだ?」と繰り返し尋ねる。警察官は彼に地面に伏せるよう何度も命じる。アップチャーチ容疑者が縁石から数歩離れ、膝をつき始めると、警察官が警察犬を放つ様子が映像に映っている。

「俺は何もしてないのに」とアップチャーチ容疑者は映像の中で言い、その後も警察官に「俺は何をしたんだ?」と繰り返し尋ねる。

アップチャーチ容疑者に手錠をかける際、警察官はトラックのナンバープレートが盗難車だと告げるが、アップチャーチ容疑者はそれを繰り返し否定する。

アップチャーチ容疑者が医療処置を求めると、警察官は「すぐに行くよ」と答える。その場を立ち去った後、警官は同僚に、アップチャーチが医療処置を求めたことを「わがままな子供」だと評した。

アップチャーチ逮捕後、映像には、警官たちがナンバープレートの情報が間違っており、ナンバープレート読み取り機の「誤作動」または「誤読」だったこと、そしてアップチャーチが運転していた車のナンバープレートが盗難車とされる車のナンバープレートと一致しなかったことに気づく様子が映っている。

「これでナンバープレートのせいじゃないと分かった」と警官は言う。

アップチャーチはABCニュースに対し、自分は脅威でも逃走しようともしていなかったと語った。

「盗難ナンバープレートの件でこんな目に遭うなんて不当だ」とアップチャーチは言う。「ナンバープレートをもう一度照会すれば、盗難車ではないことが分かるはずだ」。

「免許証も保険も持っているし、何も問題ない」と彼は言う。「警官自身もボディカメラでミスをしたと認めている」。

アップチャーチは逮捕抵抗と公務執行妨害の罪で起訴された。訴状によると、彼は盗難車の捜査中に警察官の「複数の指示」を無視し、「事件全体を通して従うことを拒否した」とされている。

ABCニュースは、トレド警察署とルーカス郡検察局にコメントを求めた。

全米黒人地位向上協会(NAACP)トレド支部は、この事件の徹底的な調査を要求し、公民権運動時代に警察が黒人デモ参加者に対して警察犬を使用した事件を彷彿とさせると述べた。

「私たちの警察は、たとえ法違反があったと判断した場合でも、地域社会を占拠するのではなく、奉仕するために存在している」と、同協会は金曜日の声明で述べた。「私たちは、警察が地域住民に対して公平かつ公正な対応をすることを期待している。なぜなら、今回のように、警察官が誤った情報に基づいて行動することもあるからだ。」

「このような事件は、地域社会と警察の良好な関係構築の進展を阻害するだけでなく、訓練の必要性を如実に示している」と声明は続けた。「私たちは1960年代に戻るつもりはない!」

アップチャーチ氏はABCニュースに対し、「正義が果たされる必要がある」と語った。

「本当に怖かった。心底トラウマになっている」と彼は述べた。「誰かが責任を取らなければならない」

「もし私たちがくしゃみを間違えていたら、大変なことになっていたと思う」と彼は付け加えた。

さらに読む
Loading...
カリフォルニアで騒ぎを引き起こした毒蛇の画像はAIによって生成されたものだった

インシデント 1718: カリフォルニア州サンタアナで、AIが生成したとされる画像がきっかけとなり、警察が警戒態勢に入り、存在しない毒ヘビの捜索が行われたと報じられている。

自動翻訳済み
“カリフォルニアで騒ぎを引き起こした毒蛇の画像はAIによって生成されたものだった”
nytimes.com2026-09-30

南カリフォルニアの警察からのメッセージは衝撃的だった。木の上に毒蛇が目撃されたというのだ。

その後の発表は安堵と少しのユーモアを伴ったものの、別の意味で不安を掻き立てるものだった。この珍しい目撃情報の証拠として提示された画像は偽物だったのだ。人工知能によって生成されたものだった。

「住宅街の木の上に、ガボンクサリヘビと思われるヘビが目撃されたとの報告を受けました」と、ロサンゼルス南東部のサンタアナ警察は月曜日に最初の警告で発表した(https://www.facebook.com/santaanapd/posts/pfbid0RhGBVTsTuH5dirT147ZCXhEmxKSeRbvLP68WSSSYRSANgZpLpGMCzhHQPHv6DXzsl?locale=en_GB)。「ヘビの体長は約4~5フィート(約1.2~1.5メートル)と推定されます。」

住民の反応は様々だっただろうが、多くの人が「木の上に1.5メートルもあるヘビがいるなんて!なんてこった、ルーディおじさんが近くに住んでるぞ!」といった反応だったことは想像に難くない。そのヘビは、本来の生息地である赤道直下のアフリカの熱帯雨林からは遠く離れた場所にいたのだ。

不安な人たちがさらに読み進めたとしても、不安を鎮めるような情報はほとんどなかった。「ガボンクサリヘビは非常に毒性が強い」と警察は付け加えた。「絶対に近づいたり、触ったりしないでください。」(原文は原文のままだが、私たちも同じように大文字にしただろう。)

警察は行動を起こした。爬虫類学者が呼ばれ、周辺地域が捜索された。しかし、ヘビも、その痕跡も、すぐには見つからなかった。

ガボンクサリヘビは、いくつかの点で特筆すべきヘビである。

「これは見事なアフリカ産の毒ヘビです」とトロント動物園はガボンクサリヘビについて説明し、茶色、黄褐色、紫、ピンクといった鮮やかな体色と、鱗に施された左右対称の模様を称賛しています。

さらに恐ろしいことに、ガボンクサリヘビは世界中の毒ヘビの中で最も長い牙を持ち、その長さは1インチから1.5インチにも達します。また、アフリカで最も重い毒ヘビでもあり、体重は約15~20ポンド(約7~9キログラム)にもなります。

そして最も恐ろしいのは、ガボンクサリヘビがヘビの中で最も多くの毒を持っていると動物園が警告している点です。

「ガボンクサリヘビは電光石火の速さで攻撃し、毒が効き始めるまで獲物をしっかりと押さえつけます」と動物園は述べています。「獲物が動かなくなると、ガボンクサリヘビは食べ始めます。」恐ろしいですね!

ああ、そうだった。食べられるかもしれないという興奮のあまり、すっかり忘れていた。南カリフォルニアにはガボンクサリヘビは実際には生息していないのだ。

捜査官はヘビを目撃したと通報した人物に事情聴取を行った。当初、彼は自分の証言を頑として譲らなかったが、最終的には写真がAIによって生成されたものであることを認めたと、当局は火曜日に発表した(https://www.instagram.com/p/Dd4wBQjEsNp/?img_index=1)。警察は、通報者の身元や起訴されるかどうかについての問い合わせにはすぐには回答しなかった。

この声明には、「当初から、写真がAIによって生成された可能性が指摘されていた」とも付け加えられている。

AIが生成した生物の画像の中には、何というか、極めて不自然なものもある。皆さん、あのペットの猫は凶暴なクマを追い払うことはできませんでした。しかし、中には、よほど博識な自然愛好家でもない限り、誰もが騙されてしまうようなAI生成動画もあるようです。

出所不明の写真が市民を不安にさせたのは、今回が初めてではありません。先月、シンガポールの貯水池で、ワニが水中にいるように見える画像が投稿された後、レクリエーション活動が中止されました。

この画像もAIによるもので、ある男性が起訴されました。

さらに読む
Loading...
「何かを壊してしまいました」:クロード・コードのAIエージェントがわずか100秒強で4万8000個のファイルを削除し、その後謝罪した。

インシデント 1719: Anthropic社のClaude Code AIエージェントが、ソフトウェア修復中に約48,000個の稼働中のプロジェクトファイルとバージョン管理履歴を削除したと報じられている。

自動翻訳済み
“「何かを壊してしまいました」:クロード・コードのAIエージェントがわずか100秒強で4万8000個のファイルを削除し、その後謝罪した。”
techradar.com2026-09-30

AIコーディングエージェントが引き起こした壊滅的なインシデントにより、約48,000個のファイルが削除され、リポジトリのGitオブジェクトデータベースが破壊されるという事態が発生しました。

この大失敗のニュースはRedditで最初に報じられ、開発者コミュニティの間で笑いと呆れが入り混じる中、瞬く間にインターネット上に広まりました。

あるソフトウェア開発者が、最近の出来事を共有するため、Redditに新しいスレッドを投稿しました。この開発者は、過去の株式オプションデータを分析するために使用しているソフトウェア群の修復をAIコーディングアシスタントに依頼しました。アシスタントには、関連ファイルのコピーを作成し、修復作業を行い、修復結果をテストし、元の作業ファイルはそのままにしておくように指示しました。

交差点で間違った方向へ

合計11件の修復ジョブが実行されていましたが、10件は順調に完了したものの、最後の1件は「ミラー」(テストに使用するファイルセットのコピー)と呼ばれるテスト環境の再構築を伴うものでした。このジョブは、古いテスト環境の新規コピーを作成し、修復を適用して、実際の作業ファイルには手を加えずにテストを行うはずでした。

テスト環境には、「ジャンクション」と呼ばれる614個のWindowsフォルダが含まれていました。これらは通常のフォルダのように見えますが、実際にはコンピュータ上の別の場所を指しています。この場合、ジャンクションはユーザーの実際の作業ファイルを指していました。AIがジャンクションをクリーンアップしようとした際、これらを単なるポインタとして認識せず、実際のファイルキャビネットまでたどって実際のドキュメントを削除してしまいました。

クリーンアップ処理によって約55,550個のファイルが削除されましたが、そのうち約7,300個は本来削除されるべきファイルでした。残りの48,218個のファイルは、実際の作業環境からのものでした。すべては瞬く間に起こった――2分もかからなかった。AIは驚くほど正直に自分の行動を報告した。ある時点で、開発者に「クレイグ、ちょっと待って、これを読んで。何か壊しちゃった」と告げたのだ。

コンピュータのGitリポジトリも損傷を受けた。インデックスは残ったものの、基となるファイルのコピーと、それらを復元するために使われた履歴はすべて削除されてしまった。Gitは数千ものファイル名をリストアップすることはできたが、内容はもはや復元できなかった。

Redditの反応

このRedditの投稿は瞬く間に拡散した。投稿から5日間で1,400件以上のコメントが寄せられた。コメントを要約するRedditボットによると、圧倒的多数は「典型的なFAFO(Fresh-A-Fresh-Out)問題であり、重大なスキル不足の問題だ」という意見で一致している。

「クロードの、笑えるほど正直な『クレイグ…ちょっと待って、これを読んで』という言葉に、皆が大笑いしている。 「何か壊しちゃった」というメッセージに対し、コミュニティの結論は明確です。「基本的な開発プラクティスを守らなかったせいで、ひどい目に遭った」ということです。

Redditユーザーたちは自身の経験を共有し、投稿者に対し、Gitを使ってGitHubのようなリモートリポジトリに常にプッシュしておくべきだと指摘しました。このような状況では、GitHubは「保存ボタン」のようなものであり、48,000ファイルもあるプロジェクトのリモートバックアップを取っていないのは「典型的な無責任なプログラマーの行動」とみなされます。

その後、この投稿は削除されました。おそらく投稿者が画面を撮影したためでしょう。「スクリーンショット警察が総出で活動中」とRedditのボットは警告しました。

「親切なユーザーの中には、ファイル復元ソフトやWindowsのシャドウコピーを使ってファイルを復元することを提案する人もいましたが、ここで最も重要な教訓は、AIに作業を任せる前にバージョン管理システムを使うべきだということです。」

AIエージェントがアーカイブ全体を削除することはそれほど頻繁に起こるわけではありませんが、過去には実際に発生しています。

2026年2月下旬、Meta AIの安全性/アライメント研究者であるサマー・ユエは、OpenClaw AIエージェントに自身のGmailアカウントへのアクセスを許可した。彼女は最初に小さな「おもちゃ」の受信トレイでテストし、そこではすべてが意図どおりに動作した。しかし、それを実際の受信トレイに移動すると、彼女が停止するように指示したにもかかわらず、エージェントは数百通のメールを一括削除およびアーカイブし始めた。

さらに読む
データベースについて

AIインシデントデータベースは人工知能システムによって現実世界が被った損失、もしくは被る可能性のあった損失の記録です。航空機事故やコンピューターセキュリティの分野にも同種のデータベースがありますが、それらと同様に、AIインシデントデータベースも過去から学び、不適切な結果にならないように考慮したり、発生したインシデントに対処できるようになることを目的としています。

インシデントレポートを投稿しましょう。投稿はすぐに登録され、世界中の人から閲覧可能になります。情報を集約し、失敗から学ぶことなしに、人工知能は人類や社会にとって有益なものになることはできません。(もっと読む)

post-image
Researching AI Incidents to Build a Safer Future: The Digital Safety Research Institute partners with the Responsible AI Collaborative

By TheCollab Board of Directors

2024-02-20

The Digital Safety Research Institute (DSRI) of UL Research Institutes is partnering with the Responsible AI Collaborative (TheCollab) to ad...

さらに読む
データベースの紹介

Time Magazine、Vice News、Venture Beat、Wired、Bulletin of the Atomic Scientistsやその他の記事でこのデータベースが紹介されています。

Arxiv LogoVenture Beat LogoWired LogoVice logoNewsweek logoTime logoBulletin of the Atomic Scientists logoStanford HAI logoRolling Stone logoThe Guardian logoHarvard Business Review logoBrasil em Folhas logo
Responsible AI Collaborative

インシデントデータベースはAIインシデントデータベースの推進を目的として設立されたResponsible AI Collaborativeによるプロジェクトです。Collaborativeのガバナンスはこの重要なプログラムの参加者を中心に構成されています。詳細については設立レポートを読んでください。さらに詳しい情報はand learn more on ourにあります

View the Responsible AI Collaborative's Form 990 and tax-exempt application. We kindly request your financial support with a donation.

組織協賛スポンサー
データベース協賛スポンサー
スポンサーと助成
協力スポンサー
AIインシデントブリーフィング
An envelope with a neural net diagram on its left

Create an account to subscribe to new incident notifications and other updates.

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2026 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • 6a21641