インシデント 1395: アントロピックは、ディープシーク、ムーンショット、ミニマックスが不正アカウントとプロキシを使用して、クロードの能力を大規模に不正に抽出したと述べた。
インシデントのステータス
Risk Subdomain
2.2. AI system security vulnerabilities and attacks
Risk Domain
- Privacy & Security
Entity
Human
Timing
Post-deployment
Intent
Intentional
インシデントレポート
レポートタイムライン
DeepSeek、Moonshot、MiniMaxという3つのAIラボが、Claudeの機 能を不正に抽出し、自社のモデルを改良しようとする大規模なキャンペーン活動を行っていることが判明しました。これらのラボは、約24,000の不正アカウントを通じて、Claudeとのやり取りを1,600万回以上行い、利用規約および地域アクセス制限に違反していました。
これらのラボは「蒸留」と呼ばれる手法を用いていました。これは、能力の低いモデルを、より能力の高いモデルの出力を用いて学習させる手…
Anthropic PBCは、中国の大手AI開発企業3社が、競合製品の性能向上を目的として、同社のAIモデルから「不正に結果を抽出」していたと発表した。これは、中国企業が不当に優位性を獲得しているという米国における懸念をさらに強めるものだ。
サンフランシスコに拠点を置く同社は、DeepSeek、MiniMax Group Inc.、Moonshotが、数千もの不正アカウントを用いて同社のClaudeモデルで合計1600万件以上の取引を行い、利用規約に違反したと述べた。アントロ…
米国のAIスタートアップ企業Anthropicは月曜日、中国の3つのAI研究所が、Claudeの能力を自社のモデルに不正に流用しようとしており、サイバー攻撃を助長する可能性があると非難した。
Anthropicによると、DeepSeek、Moonshot、MiniMaxの3つの研究所は、「蒸留」と呼ばれる手法を用いて「産業規模のキャンペーン」を展開していたという。この手法は、Claudeモデルに大量のリクエストを送信して自社モデルの性能を向上させるも ので、今回のケースでは合計…
米国の人工知能企業Anthropicは、中国の著名なAI研究所3社が、同社のClaudeモデルから機能を不正に抽出し、自社のモデル開発に利用したとして、国家安全保障上の懸念を表明している。
Anthropicは月曜日のブログ記事(https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks)で、中国のユニコーン企業であるDeepSeek、Minimax、Moonshot AIが、2万4…