概要: LastPassの従業員が、WhatsApp経由でCEOのカリム・トゥッバ氏を装った音声ディープフェイクの標的になったと報じられています。このメッセージは、ソーシャルエンジニアリングの手法で音声複製AIを使用し、緊急性を演出してセキュリティプロトコルを回避しようとしていました。従業員は危険信号に気づき、このインシデントを報告しましたが、侵害は発生しませんでした。LastPassは、経営幹部や企業を狙ったディープフェイクを利用した詐欺キャンペーンへの意識を高めるため、このインシデントを公表しました。
Editor Notes: This incident reportedly occurred on 04/10/2024. It was ingested into the AI Incident Database on 06/13/2025.
Alleged: Unknown deepfake technology developers と Unknown voice cloning technology developers developed an AI system deployed by Unknown scammers と Unknown scammer impersonating Karim Toubba, which harmed Karim Toubba , LastPass employee , Employees of LastPass と General public.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
ここ数年、サイバー脅威インテリジェンス コミュニティは、「ディープフェイク」技術の急速な普及と、企業や個人に対する詐欺師によるその潜在的な悪用を懸念してきました。「ディープフェイク」は、生成型人工知能を使用して既存のオーディオやビジュアル サンプルを活用し、作成者がディープフェイク ツールにプログラムして作成した対象の個人の発言や行動の新しくユニークな記録を作成します。ディープフェイクは政治的な誤情報や偽情報キャンペーンに関連付けられることがよくありますが、ディープフェイクの…
Loading...
パスワード管理大手のLastPassは、社員がディープフェイク詐欺の標的となった後、セキュリティ侵害の可能性を間一髪で回避しました。LastPassのブログ記事で詳細が説明されているこの事件では、CEOのカリム・トゥバ氏になりすました音声ディープフェイクが、WhatsApp経由で社員に連絡を取ろうとしました。
音声や動画を操作してリアルな偽物を作成できるディープフェイク技術は、サイバー犯罪者が精巧なソーシャルエンジニアリングの手法でますます悪用しています。今回のケースでは、詐…
Loading...
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーショ ンとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents


