Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Cyber criminal networks

Incidents involved as Deployer

インシデント 10375 Report
Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

2025-04-16

Between April 2024 and April 2025, Microsoft reportedly blocked 1.6 million bot signups per hour and disrupted $4 billion in fraud attempts linked to AI-enhanced scams. The company's Cyber Signals report details how generative AI is being used to fabricate realistic e-commerce sites, job offers, customer service bots, and phishing lures. Fraud actors now automate mass-deceptive campaigns with fake reviews, deepfakes, and cloned brand domains at unprecedented scale and speed.

もっと

インシデント 10153 Report
Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

2025-04-07

Xanthorox AI is a malicious, modular AI system released on darknet forums in early 2025. Designed from scratch for offensive cyber operations, it runs on private infrastructure and includes models for code generation, phishing, malware, social engineering, and real-time voice/image input. Its release represents a deliberate deployment of an autonomous attack platform.

もっと

インシデント 10162 Report
Jailbroken Lovable AI Allegedly Used to Generate and Host Phishing Pages, Steal Credentials, and Bypass Security

2025-04-09

The generative AI platform Lovable, which is used for building web apps, was reportedly jailbroken to create and host full phishing campaigns. These campaigns allegedly included credential-harvesting login pages, evasion techniques, and real-time exfiltration via services like Telegram and Firebase. The AI system was reportedly used for generating the phishing content and and then deploying it live on a URL hosted under its own subdomain.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Unknown malicious actors

Incidents involved as Deployer
  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

もっと
Entity

Darknet forum users

Incidents involved as Deployer
  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

もっと
Entity

Cyber criminals

Incidents involved as Deployer
  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

  • インシデント 1016
    2 レポート

    Jailbroken Lovable AI Allegedly Used to Generate and Host Phishing Pages, Steal Credentials, and Bypass Security

もっと
Entity

Xanthorox AI creators

Incidents involved as Developer
  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

もっと
Entity

Unknown black-hat AI developers

Incidents involved as Developer
  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

もっと
Entity

Victims of phishing attacks

影響を受けたインシデント
  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

もっと
Entity

Victims of malware attacks

影響を受けたインシデント
  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

もっと
Entity

Victims of automated cybercrime

影響を受けたインシデント
  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

もっと
Entity

General public

影響を受けたインシデント
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

もっと
Entity

Enterprise IT systems

影響を受けたインシデント
  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

もっと
Entity

Critical infrastructure systems

影響を受けたインシデント
  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

もっと
Entity

Xanthorox Vision

Incidents implicated systems
  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

もっと
Entity

Xanthorox Reasoner Advanced

Incidents implicated systems
  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

もっと
Entity

Xanthorox Coder

Incidents implicated systems
  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

もっと
Entity

Xanthorox AI

Incidents implicated systems
  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

もっと
Entity

Voice and image handling modules

Incidents implicated systems
  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

もっと
Entity

Live web scraping module

Incidents implicated systems
  • インシデント 1015
    3 レポート

    Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

もっと
Entity

Unknown actors

Incidents involved as Deployer
  • インシデント 1016
    2 レポート

    Jailbroken Lovable AI Allegedly Used to Generate and Host Phishing Pages, Steal Credentials, and Bypass Security

もっと
Entity

Loveable AI

Incidents involved as Developer
  • インシデント 1016
    2 レポート

    Jailbroken Lovable AI Allegedly Used to Generate and Host Phishing Pages, Steal Credentials, and Bypass Security

もっと
Entity

Users targeted by phishing attacks

影響を受けたインシデント
  • インシデント 1016
    2 レポート

    Jailbroken Lovable AI Allegedly Used to Generate and Host Phishing Pages, Steal Credentials, and Bypass Security

もっと
Entity

Impersonated organizations

影響を受けたインシデント
  • インシデント 1016
    2 レポート

    Jailbroken Lovable AI Allegedly Used to Generate and Host Phishing Pages, Steal Credentials, and Bypass Security

もっと
Entity

Microsoft

影響を受けたインシデント
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

  • インシデント 1016
    2 レポート

    Jailbroken Lovable AI Allegedly Used to Generate and Host Phishing Pages, Steal Credentials, and Bypass Security

もっと
Entity

Lovable AI

Incidents implicated systems
  • インシデント 1016
    2 レポート

    Jailbroken Lovable AI Allegedly Used to Generate and Host Phishing Pages, Steal Credentials, and Bypass Security

もっと
Entity

Firebase

Incidents implicated systems
  • インシデント 1016
    2 レポート

    Jailbroken Lovable AI Allegedly Used to Generate and Host Phishing Pages, Steal Credentials, and Bypass Security

もっと
Entity

RequestBin

Incidents implicated systems
  • インシデント 1016
    2 レポート

    Jailbroken Lovable AI Allegedly Used to Generate and Host Phishing Pages, Steal Credentials, and Bypass Security

もっと
Entity

JSONBin

Incidents implicated systems
  • インシデント 1016
    2 レポート

    Jailbroken Lovable AI Allegedly Used to Generate and Host Phishing Pages, Steal Credentials, and Bypass Security

もっと
Entity

Twilio

Incidents implicated systems
  • インシデント 1016
    2 レポート

    Jailbroken Lovable AI Allegedly Used to Generate and Host Phishing Pages, Steal Credentials, and Bypass Security

もっと
Entity

Telegram

Incidents implicated systems
  • インシデント 1016
    2 レポート

    Jailbroken Lovable AI Allegedly Used to Generate and Host Phishing Pages, Steal Credentials, and Bypass Security

もっと
Entity

Office.com

Incidents implicated systems
  • インシデント 1016
    2 レポート

    Jailbroken Lovable AI Allegedly Used to Generate and Host Phishing Pages, Steal Credentials, and Bypass Security

もっと
Entity

Microsoft login systems

Incidents implicated systems
  • インシデント 1016
    2 レポート

    Jailbroken Lovable AI Allegedly Used to Generate and Host Phishing Pages, Steal Credentials, and Bypass Security

もっと
Entity

scammers

Incidents involved as Deployer
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Fraudsters

Incidents involved as Deployer
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Various generative AI developers

Incidents involved as Developer
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Various deepfake technology developers

Incidents involved as Developer
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Various voice cloning technology developers

Incidents involved as Developer
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Consumers

影響を受けたインシデント
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Enterprises

影響を受けたインシデント
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Financial institutions

影響を受けたインシデント
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Generative AI systems

Incidents implicated systems
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

AI-powered chatbots

Incidents implicated systems
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

AI-enhanced phishing frameworks

Incidents implicated systems
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Microsoft Quick Assist

Incidents implicated systems
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

E-commerce and job listing platforms

Incidents implicated systems
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Fraud detection and domain protection tools

Incidents implicated systems
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 300d90c