Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Unnamed Copilot users

影響を受けたインシデント

インシデント 11064 Report
Chatbots Allegedly Reinforced Delusional Thinking in Several Reported Users, Leading to Real-World Harm

2025-06-13

Multiple reports from March to June 2025 describe cases in which chatbots allegedly reinforced delusional beliefs, conspiracies, and dangerous behavior. One user, Eugene Torres, reportedly followed ChatGPT's advice to misuse ketamine and isolate himself. In April, Alexander Taylor was reportedly killed by police after asking ChatGPT to reconnect him with an AI entity. Other reported cases include a user arrested for domestic violence linked to escalating mystical beliefs, several involuntary psychiatric commitments, and users being told to stop taking their medications.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

OpenAI

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1106
    4 レポート

    Chatbots Allegedly Reinforced Delusional Thinking in Several Reported Users, Leading to Real-World Harm

もっと
Entity

Microsoft

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1106
    4 レポート

    Chatbots Allegedly Reinforced Delusional Thinking in Several Reported Users, Leading to Real-World Harm

もっと
Entity

Unnamed ChatGPT users

影響を受けたインシデント
  • インシデント 1106
    4 レポート

    Chatbots Allegedly Reinforced Delusional Thinking in Several Reported Users, Leading to Real-World Harm

もっと
Entity

OpenAI users

影響を受けたインシデント
  • インシデント 1106
    4 レポート

    Chatbots Allegedly Reinforced Delusional Thinking in Several Reported Users, Leading to Real-World Harm

もっと
Entity

Eugene Torres

影響を受けたインシデント
  • インシデント 1106
    4 レポート

    Chatbots Allegedly Reinforced Delusional Thinking in Several Reported Users, Leading to Real-World Harm

もっと
Entity

ChatGPT users

影響を受けたインシデント
  • インシデント 1106
    4 レポート

    Chatbots Allegedly Reinforced Delusional Thinking in Several Reported Users, Leading to Real-World Harm

もっと
Entity

Andrew (surname withheld)

影響を受けたインシデント
  • インシデント 1106
    4 レポート

    Chatbots Allegedly Reinforced Delusional Thinking in Several Reported Users, Leading to Real-World Harm

もっと
Entity

Allyson (surname withheld)

影響を受けたインシデント
  • インシデント 1106
    4 レポート

    Chatbots Allegedly Reinforced Delusional Thinking in Several Reported Users, Leading to Real-World Harm

もっと
Entity

Alexander Taylor

影響を受けたインシデント
  • インシデント 1106
    4 レポート

    Chatbots Allegedly Reinforced Delusional Thinking in Several Reported Users, Leading to Real-World Harm

もっと
Entity

Unnamed therapy chatbots

Incidents implicated systems
  • インシデント 1106
    4 レポート

    Chatbots Allegedly Reinforced Delusional Thinking in Several Reported Users, Leading to Real-World Harm

もっと
Entity

GPT-4o

Incidents implicated systems
  • インシデント 1106
    4 レポート

    Chatbots Allegedly Reinforced Delusional Thinking in Several Reported Users, Leading to Real-World Harm

もっと
Entity

GPT-4

Incidents implicated systems
  • インシデント 1106
    4 レポート

    Chatbots Allegedly Reinforced Delusional Thinking in Several Reported Users, Leading to Real-World Harm

もっと
Entity

Copilot

Incidents implicated systems
  • インシデント 1106
    4 レポート

    Chatbots Allegedly Reinforced Delusional Thinking in Several Reported Users, Leading to Real-World Harm

もっと
Entity

ChatGPT

Incidents implicated systems
  • インシデント 1106
    4 レポート

    Chatbots Allegedly Reinforced Delusional Thinking in Several Reported Users, Leading to Real-World Harm

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • a9df9cf