概要: フェラーリの幹部が、CEOのベネデット・ヴィーニャ氏を装ったAI生成のディープフェイク動画の標的となり、詐欺未遂に遭ったとされています。詐欺師はWhatsAppとクローン音声を使い、緊急かつ秘密裏に行われる金融取引のため、直ちに対応が必要だと主張しました。幹部はかすかな不自然なイントネーションに気づき、疑念を抱きました。しかし、幹部が最近読んだ本について質問することで相手をテストし、詐欺は失敗に終わりました。
Editor Notes: The incident date of 07/16/2024 is an approximation. Reporting suggests it was on a Tuesday in July 2024 that the incident occurred.
Alleged: Unknown deepfake technology developer と Unknown voice cloning technology developer developed an AI system deployed by scammers , Fraudsters , Phishers と Scammers impersonating Benedetto Vigna, which harmed Unnamed Ferrari executive , Benedetto Vigna と Ferrari.
関与が疑われるAIシステム: Unknown deepfake app と Unknown voice cloning technology
インシデントのステータス
インシデントID
966
レポート数
2
インシデント発生日
2024-07-16
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
世界は極めて複雑な場所です。私たちは、画像がフォトショップで加工されるという概念をようやく受け入れたばかりで、今では AI ディープフェイク音声や動画によって、何もかもが信じられなくなっているように感じます。フェラーリの幹部がしたように、頭の中の声に耳を傾けることが重要です。同社は、皮肉たっぷりの方法で詐欺師を出し抜くことで、高くつく恥ずかしいミスを避けた可能性が高いからです。
豊田章男氏は、自社への信頼を失ったことを AI のせいにすることはできません。いいえ、皆さん、これ…
香港の財務担当者は、このビデオ通話に特に異常は感じなかった。英国に拠点を置く最高財務責任者（CFO）が極秘の買収案件の緊急承認を必要としており、詳細を話し合うために馴染みの同僚数名が参加したのだ。
綿密な議論の末、この担当者は15件の送金を承認し、合計2,550万ドルを受け取った。数週間後、衝撃的な真実が明らかになった。被害者を除く通話参加者全員が、AIが生成したディープフェイクだったのだ。
この2024年1月のエンジニアリング会社Arupへの攻撃は、単なる高度な詐欺行為にと…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents