Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Perplexity AI

影響を受けたインシデント

インシデント 6771 Report
ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

2024-04-29

The "Dan" ("Do Anything Now") AI boyfriend is a trend on TikTok in which users appear to regularly manipulate ChatGPT to adopt boyfriend personas, breaching content policies. ChatGPT 3.5 is reported to regularly produce explicitly sexual content, directly violating its intended safety protocols. GPT-4 and Perplexity AI were subjected to similar manipulations, and although they exhibited more resistance to breaches, some prompts were reported to break its guidelines.

もっと

Incidents involved as Deployer

インシデント 6771 Report
ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

2024-04-29

The "Dan" ("Do Anything Now") AI boyfriend is a trend on TikTok in which users appear to regularly manipulate ChatGPT to adopt boyfriend personas, breaching content policies. ChatGPT 3.5 is reported to regularly produce explicitly sexual content, directly violating its intended safety protocols. GPT-4 and Perplexity AI were subjected to similar manipulations, and although they exhibited more resistance to breaches, some prompts were reported to break its guidelines.

もっと

Incidents implicated systems

インシデント 10711 Report
Student Reportedly Files Complaint Over Professor’s Undisclosed Use of Generative AI at Northeastern University

2025-05-14

A student at Northeastern University reportedly filed a complaint after discovering that a professor had used generative AI tools, including ChatGPT, to produce course materials despite university policies discouraging undisclosed AI use. The student alleged hypocrisy, citing a syllabus that barred unauthorized AI use by students. The professor acknowledged having used AI-generated materials and expressed regret over not reviewing them more carefully. No tuition refund was reportedly granted.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

TikTok users

Incidents involved as Deployer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

Julia Munslow

Incidents involved as Deployer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

ChatGPT

Incidents involved as Deployer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

Incidents implicated systems
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor’s Undisclosed Use of Generative AI at Northeastern University

もっと
Entity

GPT-3.5

Incidents involved as Deployer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

GPT-4

Incidents involved as Deployer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

OpenAI

影響を受けたインシデント
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

Incidents involved as Developer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

Perplexity.ai

Incidents involved as Developer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

General public

影響を受けたインシデント
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

Rick Arrowood

影響を受けたインシデント
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor’s Undisclosed Use of Generative AI at Northeastern University

Incidents involved as Deployer
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor’s Undisclosed Use of Generative AI at Northeastern University

もっと
Entity

Perplexity

Incidents involved as Developer
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor’s Undisclosed Use of Generative AI at Northeastern University

もっと
Entity

Gamma.app

Incidents involved as Developer
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor’s Undisclosed Use of Generative AI at Northeastern University

もっと
Entity

Ella Stapleton

影響を受けたインシデント
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor’s Undisclosed Use of Generative AI at Northeastern University

もっと
Entity

Northeastern University students

影響を受けたインシデント
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor’s Undisclosed Use of Generative AI at Northeastern University

もっと
Entity

Northeastern University

影響を受けたインシデント
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor’s Undisclosed Use of Generative AI at Northeastern University

もっと
Entity

Gamma

Incidents implicated systems
  • インシデント 1071
    1 レポート

    Student Reportedly Files Complaint Over Professor’s Undisclosed Use of Generative AI at Northeastern University

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 300d90c