概要: フェラーリの幹部が、CEOのベネデット・ヴィーニャ氏を装ったAI生成のディープフェイク動画の標的となり、詐欺未遂に遭ったとされています。詐欺師はWhatsAppとクローン音声を使い、緊急かつ秘密裏に行われる金融取引のため、直ちに対応が必要だと主張しました。幹部はかすかな不自然なイントネーションに気づき、疑念を抱きました。しかし、幹部が最近読んだ本について質問することで相手をテストし、詐欺は失敗に終わりました。
Editor Notes: The incident date of 07/16/2024 is an approximation. Reporting suggests it was on a Tuesday in July 2024 that the incident occurred.
Alleged: Unknown deepfake technology developer と Unknown voice cloning technology developer developed an AI system deployed by scammers , Fraudsters , Phishers と Scammers impersonating Benedetto Vigna, which harmed Unnamed Ferrari executive , Benedetto Vigna と Ferrari.
関与が疑われるAIシステム: Unknown deepfake app と Unknown voice cloning technology
インシデントのステータス
インシデントID
966
レポート数
1
インシデント発生日
2024-07-16
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
世 界は極めて複雑な場所です。私たちは、画像がフォトショップで加工されるという概念をようやく受け入れたばかりで、今では AI ディープフェイク音声や動画によって、何もかもが信じられなくなっているように感じます。フェラーリの幹部がしたように、頭の中の声に耳を傾けることが重要です。同社は、皮肉たっぷりの方法で詐欺師を出し抜くことで、高くつく恥ずかしいミスを避けた可能性が高いからです。
豊田章男氏は、自社への信頼を失ったことを AI のせいにすることはできません。いいえ、皆さん、これ…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タ イプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents