概要: 大規模言語モデルの学習に使用されたデータセットには、12,000件ものAPIキーと認証情報が含まれていたとされています。これらの一部は依然として有効であり、不正アクセスを許していたと報告されています。Truffle Securityは、2,500億ものウェブページを網羅する2024年12月のCommon Crawlアーカイブでこれらの秘密を発見しました。影響を受けた認証情報は、不正なデータアクセス、サービス中断、金融詐欺、その他さまざまな悪意ある用途に悪用される可能性がありました。
インシデントのステータス
インシデントID
956
レポート数
1
インシデント発生日
2025-02-28
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
大規模言語モデル (LLM) のトレーニングに使用されるデータセットに、認証を成功させるライブ シークレットが約 12,000 個含まれていることが判明しました。
この調査結果は、ハードコードされた認証情報がユーザーと組織の両方に深刻なセキュリティ リスクをもたらすことを改めて浮き彫りにしています。LLM が最終的にユーザーに安全でないコーディング プラクティスを提案すると、問題がさらに悪化することは言うまでもありません。
Truffle Security は、Web クロー…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents