Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Consumers

影響を受けたインシデント

インシデント 10375 Report
Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

2025-04-16

Between April 2024 and April 2025, Microsoft reportedly blocked 1.6 million bot signups per hour and disrupted $4 billion in fraud attempts linked to AI-enhanced scams. The company's Cyber Signals report details how generative AI is being used to fabricate realistic e-commerce sites, job offers, customer service bots, and phishing lures. Fraud actors now automate mass-deceptive campaigns with fake reviews, deepfakes, and cloned brand domains at unprecedented scale and speed.

もっと

インシデント 5761 Report
Alleged Misuse of PicSo AI for Generating Inappropriate Content Emphasizing "Girls"

2023-10-24

PicSo AI, which appears to be getting advertised by Meta over Instagram, is allegedly being used for generating inappropriate content with an emphasis on "girls." This raises concerns about the misuse of generative AI technologies for creating offensive and potentially sexually explicit material that could be used for nefarious and criminal purposes.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Meta

Incidents involved as Deployer
  • インシデント 576
    1 レポート

    Alleged Misuse of PicSo AI for Generating Inappropriate Content Emphasizing "Girls"

もっと
Entity

Instagram

Incidents involved as Deployer
  • インシデント 576
    1 レポート

    Alleged Misuse of PicSo AI for Generating Inappropriate Content Emphasizing "Girls"

もっと
Entity

PicSo AI

Incidents involved as Developer
  • インシデント 576
    1 レポート

    Alleged Misuse of PicSo AI for Generating Inappropriate Content Emphasizing "Girls"

もっと
Entity

Potentially exploited groups

影響を受けたインシデント
  • インシデント 576
    1 レポート

    Alleged Misuse of PicSo AI for Generating Inappropriate Content Emphasizing "Girls"

もっと
Entity

General public

影響を受けたインシデント
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

  • インシデント 576
    1 レポート

    Alleged Misuse of PicSo AI for Generating Inappropriate Content Emphasizing "Girls"

もっと
Entity

scammers

Incidents involved as Deployer
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Fraudsters

Incidents involved as Deployer
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Cyber criminal networks

Incidents involved as Deployer
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Various generative AI developers

Incidents involved as Developer
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Various deepfake technology developers

Incidents involved as Developer
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Various voice cloning technology developers

Incidents involved as Developer
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Enterprises

影響を受けたインシデント
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Microsoft

影響を受けたインシデント
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Financial institutions

影響を受けたインシデント
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Generative AI systems

Incidents implicated systems
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

AI-powered chatbots

Incidents implicated systems
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

AI-enhanced phishing frameworks

Incidents implicated systems
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Microsoft Quick Assist

Incidents implicated systems
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

E-commerce and job listing platforms

Incidents implicated systems
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと
Entity

Fraud detection and domain protection tools

Incidents implicated systems
  • インシデント 1037
    5 レポート

    Microsoft Reportedly Blocks 1.6 Million Bot Signup Attempts Per Hour Amid Global AI-Driven Fraud Surge

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 86fe0f5