Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Perplexity AI

影響を受けたインシデント

インシデント 6771 Report
ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

2024-04-29

The "Dan" ("Do Anything Now") AI boyfriend is a trend on TikTok in which users appear to regularly manipulate ChatGPT to adopt boyfriend personas, breaching content policies. ChatGPT 3.5 is reported to regularly produce explicitly sexual content, directly violating its intended safety protocols. GPT-4 and Perplexity AI were subjected to similar manipulations, and although they exhibited more resistance to breaches, some prompts were reported to break its guidelines.

もっと

Incidents involved as Deployer

インシデント 6771 Report
ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

2024-04-29

The "Dan" ("Do Anything Now") AI boyfriend is a trend on TikTok in which users appear to regularly manipulate ChatGPT to adopt boyfriend personas, breaching content policies. ChatGPT 3.5 is reported to regularly produce explicitly sexual content, directly violating its intended safety protocols. GPT-4 and Perplexity AI were subjected to similar manipulations, and although they exhibited more resistance to breaches, some prompts were reported to break its guidelines.

もっと

Incidents implicated systems

インシデント 10711 Report
Student Reportedly Files Complaint Over Professor's Undisclosed Use of Generative AI at Northeastern University

2025-05-14

A student at Northeastern University reportedly filed a complaint after discovering that a professor had used generative AI tools, including ChatGPT, to produce course materials despite university policies discouraging undisclosed AI use. The student alleged hypocrisy, citing a syllabus that barred unauthorized AI use by students. The professor acknowledged having used AI-generated materials and expressed regret over not reviewing them more carefully. No tuition refund was reportedly granted.

もっと

インシデント 12051 Report
Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

2025-09-11

Multiple AI systems allegedly spread false claims in the aftermath of Charlie Kirk's assassination at Utah Valley University. Perplexity and Grok chatbots reportedly stated Kirk was alive, mischaracterized authentic video as satire, and wrongly identified Utah Democrat Michael Mallinson as the suspect. A Google AI Overview allegedly claimed Kirk was on Ukraine's Myrotvorets "enemies" list, a reported falsehood that echoed pro-Kremlin narratives.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

TikTok users

Incidents involved as Deployer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

Julia Munslow

Incidents involved as Deployer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

ChatGPT

Incidents involved as Deployer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

Incidents implicated systems
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor's Undisclosed Use of Generative AI at Northeastern University

もっと
Entity

GPT-3.5

Incidents involved as Deployer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

GPT-4

Incidents involved as Deployer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

OpenAI

影響を受けたインシデント
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

Incidents involved as Developer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

Perplexity.ai

Incidents involved as Developer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

General public

影響を受けたインシデント
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

Rick Arrowood

影響を受けたインシデント
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor's Undisclosed Use of Generative AI at Northeastern University

Incidents involved as Deployer
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor's Undisclosed Use of Generative AI at Northeastern University

もっと
Entity

Perplexity

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1205
    1 レポート

    Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

Incidents involved as Developer
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor's Undisclosed Use of Generative AI at Northeastern University

もっと
Entity

Gamma.app

Incidents involved as Developer
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor's Undisclosed Use of Generative AI at Northeastern University

もっと
Entity

Northeastern University students

影響を受けたインシデント
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor's Undisclosed Use of Generative AI at Northeastern University

もっと
Entity

Northeastern University

影響を受けたインシデント
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor's Undisclosed Use of Generative AI at Northeastern University

もっと
Entity

Ella Stapleton

影響を受けたインシデント
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor's Undisclosed Use of Generative AI at Northeastern University

もっと
Entity

Gamma

Incidents implicated systems
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor's Undisclosed Use of Generative AI at Northeastern University

もっと
Entity

xAI

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1205
    1 レポート

    Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

もっと
Entity

Google

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 1205
    1 レポート

    Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

もっと
Entity

Pro-Kremlin actors

Incidents involved as Deployer
  • インシデント 1205
    1 レポート

    Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

もっと
Entity

Grok users

影響を受けたインシデント
  • インシデント 1205
    1 レポート

    Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

もっと
Entity

Perplexity users

影響を受けたインシデント
  • インシデント 1205
    1 レポート

    Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

もっと
Entity

Google users

影響を受けたインシデント
  • インシデント 1205
    1 レポート

    Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

もっと
Entity

Michael Mallinson

影響を受けたインシデント
  • インシデント 1205
    1 レポート

    Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

もっと
Entity

Family of Charlie Kirk

影響を受けたインシデント
  • インシデント 1205
    1 レポート

    Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

もっと
Entity

Epistemic integrity

影響を受けたインシデント
  • インシデント 1205
    1 レポート

    Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

もっと
Entity

Journalistic integrity

影響を受けたインシデント
  • インシデント 1205
    1 レポート

    Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

もっと
Entity

Journalists

影響を受けたインシデント
  • インシデント 1205
    1 レポート

    Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

もっと
Entity

General public of Utah

影響を受けたインシデント
  • インシデント 1205
    1 レポート

    Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

もっと
Entity

Grok

Incidents implicated systems
  • インシデント 1205
    1 レポート

    Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

もっと
Entity

Google AI

Incidents implicated systems
  • インシデント 1205
    1 レポート

    Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

もっと
Entity

Google AI overview

Incidents implicated systems
  • インシデント 1205
    1 レポート

    Multiple Generative AI Systems Reportedly Amplify False Information During Charlie Kirk Assassination Coverage

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 3303e65