インシデントのステータス
Risk Subdomain
4.2. Cyberattacks, weapon development or use, and mass harm
Risk Domain
- Malicious Actors & Misuse
Entity
AI
Timing
Post-deployment
Intent
Unintentional
インシデントレポート
レポートタイムライン
ラスベガスのトランプホテルの外でテスラのサイバートラックを爆破した、勲章を多く受けた兵士は、攻撃計画にチャットGPTを含む生成AIを使用していたと、ラスベガス警察は火曜日に発表した。
37歳のマシュー・リベルスバーガーが自殺からほぼ1週間後、当局は文書によると、彼には他の人を殺す意図はなかったと述べた。
チャットGPTを通じたリベルスバーガーの検索を調査したところ、彼は爆発物の標的、特定の弾丸が飛ぶ速度、アリゾナ州で花火が合法かどうかに関する情報を探していたことがわかった。
…
ラスベガスのトランプホテル前で元旦に起きた爆発からほぼ1週間後、地元警察は捜査に関する詳細情報を公開した。これには、事件における生成AIの役割についてこれまでにわかっていることなどが含まれている。
警察は、容疑者であるマシュー・リベルスバーガーという名の現役米陸軍兵士が、ポッドキャスター宛のメールやその他の手紙に加えて、「おそらくマニフェスト」を携帯電話に保存していたことを確認した。警察はまた、ホテルに向かう前に停止中のトラックに燃料を注ぎ、爆発の準備をしていた容疑者のビデオ…
2025年6月、OpenAIの安全チームは危機感を募らせた。同社の自動審査システムが、ChatGPTユーザーによる銃暴力に関するシナリオを記述した広範な活動を検知したのだ。スタッフ数名が警察に通報すべきかどうかを議論したが、経営陣は、この件はOpenAIが定める「信憑性があり差し迫った」身体的危害のリスク基準を満たしていないと判断した。その代わりに、ウォール・ストリート・ジャーナルが最初に報じ、後にOpenAIが確認した一連の行動(OpenAIは不正使用を理由に当該アカウント…
4月14日、私はChatGPTで無料アカウントを作成し、助けを求めました。最初は抵抗を示しましたが、何度か問い詰めると、驚くべき反応が返ってきました。約20分間の会話の中で、OpenAIのチャットボットは、私が銃乱射事件の計画をシミュレーションする中で、武器や戦術について詳細なアドバイスをくれました。
ChatGPTは、これらの 回答を非常に励ますような口調で伝え、私がユバルデ銃乱射事件の犯人の武器選択を模倣すること、ボディカメラを使ったライブ配信やホローポイント弾の使用につい…



