Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Gemini Pro

Incidents implicated systems

インシデント 7314 Report
Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

2023-12-01

Large language models are reportedly hallucinating software package names, some of which are uploaded to public repositories and integrated into real code. One such package, huggingface-cli, was downloaded over 15,000 times. This behavior enables "slopsquatting," a term coined by Seth Michael Larson of the Python Software Foundation, where attackers register fake packages under AI-invented names and put supply chains at serious risk.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Developers using AI-generated suggestions

Incidents involved as Deployer
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

Bar Lanyado

Incidents involved as Deployer
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

OpenAI

Incidents involved as Developer
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

Google

Incidents involved as Developer
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

Cohere

Incidents involved as Developer
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

Meta

Incidents involved as Developer
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

DeepSeek AI

Incidents involved as Developer
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

BigScience

Incidents involved as Developer
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

Developers and businesses incorporating AI-suggested packages

影響を受けたインシデント
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

Alibaba

影響を受けたインシデント
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

Organizations that incorporated fake dependencies

影響を受けたインシデント
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

Software ecosystems

影響を受けたインシデント
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

Users downstream of software contaminated by hallucinated packages

影響を受けたインシデント
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

Trust in open-source repositories and AI-assisted coding tools

影響を受けたインシデント
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

LLM-powered coding assistants

Incidents implicated systems
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

ChatGPT 3.5

Incidents implicated systems
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

ChatGPT 4

Incidents implicated systems
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

Command

Incidents implicated systems
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

LLaMA

Incidents implicated systems
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

CodeLlama

Incidents implicated systems
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

DeepSeek Coder

Incidents implicated systems
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

BLOOM

Incidents implicated systems
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

Python Package Index (PyPI)

Incidents implicated systems
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

npm (Node.js)

Incidents implicated systems
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

GitHub

Incidents implicated systems
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと
Entity

Google Search / AI Overview

Incidents implicated systems
  • インシデント 731
    4 レポート

    Hallucinated Software Packages with Potential Malware Downloaded Thousands of Times by Developers

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 1420c8e