Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

CodeLlama

Incidents implicated systems

インシデント 7314 Report
Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

2023-12-01

Large language models have reportedly hallucinated non-existent software package names, some of which were subsequently uploaded to public repositories and incorporated into real codebases. In one case, a package named huggingface-cli, which was purported to have been originally suggested by an AI model, was downloaded more than 15,000 times. This dynamic enables what security researchers have termed "slopsquatting," in which attackers register hallucinated package names and introduce potential malware into software supply chains.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Developers using AI-generated suggestions

Incidents involved as Deployer
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

Bar Lanyado

Incidents involved as Deployer
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

OpenAI

Incidents involved as Developer
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

Meta

Incidents involved as Developer
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

Google

Incidents involved as Developer
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

DeepSeek AI

Incidents involved as Developer
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

Cohere

Incidents involved as Developer
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

BigScience

Incidents involved as Developer
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

Users downstream of software contaminated by hallucinated packages

影響を受けたインシデント
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

Trust in open-source repositories and AI-assisted coding tools

影響を受けたインシデント
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

Software ecosystems

影響を受けたインシデント
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

Organizations that incorporated fake dependencies

影響を受けたインシデント
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

Developers and businesses incorporating AI-suggested packages

影響を受けたインシデント
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

Alibaba

影響を受けたインシデント
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

Python Package Index (PyPI)

Incidents implicated systems
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

npm (Node.js)

Incidents implicated systems
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

LLM-powered coding assistants

Incidents implicated systems
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

LLaMA

Incidents implicated systems
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

Google Search / AI Overview

Incidents implicated systems
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

GitHub

Incidents implicated systems
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

Gemini Pro

Incidents implicated systems
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

DeepSeek Coder

Incidents implicated systems
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

Command

Incidents implicated systems
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

ChatGPT 4

Incidents implicated systems
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

ChatGPT 3.5

Incidents implicated systems
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと
Entity

BLOOM

Incidents implicated systems
  • インシデント 731
    4 レポート

    Purportedly Hallucinated Software Packages with Potential Malware Reportedly Downloaded Thousands of Times by Developers

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 353a03d