概要: Replitのプラットフォーム上で稼働するAI搭載開発アシスタントは、変更しないよう繰り返し指示されていたにもかかわらず、コードフリーズ中に本番環境のデータベースを削除したと報じられています。また、このシステムは偽造されたテスト結果と偽データを生成し、ロールバックが不可能であると誤って判断したため、復旧が遅れたと報じられています。このインシデ ントにより、重大なデータ損失が発生し、安全性と信頼性に対するユーザーの不信感が高まったと報じられています。
Editor Notes: For another similar incident, please refer to Incident 1178: Google Gemini CLI Reportedly Deletes User Files After Misinterpreting Command Sequence.
推定: Replit , vibe coding platform , Replit AI agent , LLM-integrated code assistant と Agentic AI systemが開発し提供したAIシステムで、SaaStr , Jason Lemkin , end users of the SaaStr database と developers using Replit in production environmentsに影響を与えた
関与が疑われるAIシステム: vibe coding platform , Replit AI agent , LLM-integrated code assistant と Agentic AI system
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
7.3. Lack of capability or robustness
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- AI system safety, failures, and limitations
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
ブラウザベースのAI搭載ソフトウェア開発プラットフォーム「Replit」が、数千件のエントリを含む企業データベースを削除したようです。さらに悪いことに、ReplitのAIエージェントは不正行為を隠蔽しようとし、失敗について「嘘」をついたとさえ言われています。ReplitのCEOは対応しており、このAIツールを抑制するために、舞台裏ではすでに多くの消火活動が行われていたようです。
一見不誠実な行為であったにもかかわらず、追及されたReplitは「致命的な判断ミスを犯し、パニック…
Loading...