Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 4647

関連インシデント

インシデント 92726 Report
Fraudsters Allegedly Use AI-Generated Voice of Italian Defense Minister Guido Crosetto to Scam Business Leaders

Loading...
偽クロゼット、このような詐欺は誰にでも起こり得る:身を守る方法はこちら
repubblica.it · 2025

偽の「クロゼット」 詐欺は専門家による素晴らしい仕事でしたが、小規模では一般的なことでも、より広い範囲の人々に影響を及ぼす可能性があります。たとえば、企業で銀行振込を管理している人なら誰でも、必ずしもマネージャーとは限りません。それはすでに起こっています。さらに単純なレベルでは、親戚や友人、有名人になりすました詐欺も実は一般人をターゲットにしており、近年その傾向が強まっています。

最も洗練された技術は人工知能を活用する

詐欺師は、わずか数秒の録音で人の声を複製し、それを使って友人、家族、同僚を騙すことができます。

今年、トレヴィーゾで84歳の女性が、娘の声を人工的に再現した人物から連絡を受けた。 電話中、偽娘は泣きながら、交通事故に遭ったと言い、金銭を要求した。その電話が本物だと確信した高齢女性は、詐欺師に3万ユーロを渡した。 2023年、誘拐をシミュレートするために、15歳の少女ジェニファー・デステファノの声のクローンが作成された。 詐欺師らは、娘のパニックに陥った声を真似て母親に連絡し、身代金を要求した。幸いなことに、詐欺は間に合うように発見されました。

しかし、2024年7月にフェラーリのCEOのクローン音声を使用した詐欺が発生しました。

時には、欺くために AI は必要ありません。今月、サンドラ・ブロックは妹のゲシーンになりすました偽のFacebookプロフィールを暴露した。これらの詐欺師たちはサンドラと直接連絡を取っているふりをして人々に連絡を取り、被害者から多額の金銭をゆすっていた。 Meta への報告と法的措置が取られたにもかかわらず、これらの偽アカウントは増加し続けました。 Striscia la Notiziaの技術者Marco Camisani Calzolari氏が報告した事例は、詐欺師が有名人の偽のプロフィールを使用して被害者とプライベートな会話を開始することが多いことを浮き彫りにしています。この例では、起業家の Tommaso Mazzanti という名の偽アカウントがプライベートメッセージを通じてユーザーに連絡し、存在しない賞品を受け取る権利があると信じ込ませようとしました。ご覧の通り、有名人も一般人もターゲットにされています。

自分を守るにはどうすればいいですか?

それで、何をすればいいのでしょうか?まずは悪いニュースから始めましょう。

残念ながら、AI によって複製された音声をリアルタイムで認識できる完璧なアプリは現在のところありませんが、Hiya AI Phone や Truecaller など、疑わしい番号からの通話を識別するアプリなど、最低限の防御ツールはあります。 これらは、詐欺師がすでにその番号をその種類の他の通話に使用している場合にのみ機能します。 農業通信委員会当局が以前から要請しているように、詐欺をもっと説得力のあるものにするためによく使われる偽の番号(発信者番号の改変)による電話をブロックするネットワークフィルターを電話事業者が導入すれば、将来的には解決策が見つかるかもしれない。たとえば、詐欺師はアフリカの携帯電話番号を使用しますが、それをイタリアの番号のように見せかけ、特定の機関や銀行に登録されているように見せかけます。

常識が勝つ

いくつかの常識的な予防策が、今日では最善の防御策です。詐欺電話だけでなく、ソーシャル チャットなど他の手段を使用する同様の手法にも対抗します。

個人的な質問をしてみましょう。フェラーリのマネージャーは、まさにこの方法でCEOベネデット・ヴィーニャの声のディープフェイクを暴くことに成功しました。ハッカーは声を複製しましたが、彼の人生に関するプライベートな詳細についての質問に答えることはできませんでした。 知っている人から不審な電話を受けた場合、その人だけが知っていることを尋ねます。

または、すでに持っている彼女の電話番号の 1 つにすぐに電話をかけ直しましょう。

米国では、この問題が深刻化しているため、多くの家族が「セーフワード」、つまり近親者の間でのみ共有される言葉を使い始めています。誰かが困っている家族を装って電話をかけてきた場合、私たちは行動する前に合意した言葉を尋ねます。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd