Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

XXXGPT

Incidents involved as Deployer

インシデント 7362 Report
Underground Market for LLMs Powers Malware and Phishing Scams

2023-12-01

A study by Indiana University researchers uncovered widespread misuse of large language models (LLMs) for cybercrime. Cybercriminals, according to that study, use LLMs like OpenAI's GPT-3.5 and GPT-4 to create malware, phishing scams, and scam websites. These models are available on underground markets, often bypassing safety checks through jailbreaking. Named malicious LLMs are BadGPT, XXXGPT, Evil-GPT, WormGPT, FraudGPT, BLACKHATGPT, EscapeGPT, DarkGPT, and WolfGPT.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Cybercriminals

Incidents involved as Deployer
  • インシデント 736
    2 レポート

    Underground Market for LLMs Powers Malware and Phishing Scams

もっと
Entity

BadGPT

Incidents involved as Deployer
  • インシデント 736
    2 レポート

    Underground Market for LLMs Powers Malware and Phishing Scams

もっと
Entity

Evil-GPT

Incidents involved as Deployer
  • インシデント 736
    2 レポート

    Underground Market for LLMs Powers Malware and Phishing Scams

もっと
Entity

WormGPT

Incidents involved as Deployer
  • インシデント 736
    2 レポート

    Underground Market for LLMs Powers Malware and Phishing Scams

もっと
Entity

FraudGPT

Incidents involved as Deployer
  • インシデント 736
    2 レポート

    Underground Market for LLMs Powers Malware and Phishing Scams

もっと
Entity

BLACKHATGPT

Incidents involved as Deployer
  • インシデント 736
    2 レポート

    Underground Market for LLMs Powers Malware and Phishing Scams

もっと
Entity

EscapeGPT

Incidents involved as Deployer
  • インシデント 736
    2 レポート

    Underground Market for LLMs Powers Malware and Phishing Scams

もっと
Entity

DarkGPT

Incidents involved as Deployer
  • インシデント 736
    2 レポート

    Underground Market for LLMs Powers Malware and Phishing Scams

もっと
Entity

WolfGPT

Incidents involved as Deployer
  • インシデント 736
    2 レポート

    Underground Market for LLMs Powers Malware and Phishing Scams

もっと
Entity

OpenAI

Incidents involved as Developer
  • インシデント 736
    2 レポート

    Underground Market for LLMs Powers Malware and Phishing Scams

もっと
Entity

internet users

影響を受けたインシデント
  • インシデント 736
    2 レポート

    Underground Market for LLMs Powers Malware and Phishing Scams

もっと
Entity

Organizations

影響を受けたインシデント
  • インシデント 736
    2 レポート

    Underground Market for LLMs Powers Malware and Phishing Scams

もっと
Entity

Individuals targeted by malware

影響を受けたインシデント
  • インシデント 736
    2 レポート

    Underground Market for LLMs Powers Malware and Phishing Scams

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 1420c8e