ソルトレイクシティ — ソルトレイクシティ警察は、警察になりすますために人工知能を使用する詐欺師に注意を促している。
この警告は、ウッズクロスの住民が警察のアカウントと思われるものから電子メールを受け取ったと報告したことを受けて出されたもので、その電子メールには、AIを使用してソルトレイクシティ警察署長マイク・ブラウンになりすましたビデオメッセージが含まれていたと警察は金曜日の声明で述べた。
ビデオメッセージには、数年前のブラウンのABC4インタビューから撮影された映像が使用されていた。音声では、受信者の電信送金が拒否され、受信者が連邦政府に約10万ドルの未払い金を抱えていると主張していたと警察は述べた。
「音声自体は明瞭で、ブラウン署長の声に非常によく似ており、地域住民がメッセージが本物であると信じてしまう可能性がある」と警察の声明は述べている。
慎重に分析した結果、メッセージには不自然な話し方、言葉の異常な強調、一貫性のない口調が含まれていることが判明した。また、文の間に「検出可能な音響編集」があったと警察は述べた。
偽メールは警察署の名前の後に数字が続く Google アカウントから送信された。警察は、ソルトレイクシティ警察署からの公式メールはすべて「slc.gov」というドメインになると強調した。
「詐欺師はインターネット上の動画や録音を操作することで、リアルな音声録音や動画さえも作成できる。これは「ボイス クローニング」または「ディープフェイク」と呼ばれる。通常、こうした詐欺には、困惑した愛する人から緊急に金銭を要求するような電話がかかってくる」と警察は述べた。
ボイス クローニング詐欺の兆候には、予期しない、または一方的な連絡、すぐに行動するようプレッシャーを感じること、メッセンジャーが緊急に金銭を要求すること、プライベートまたは個人情報を尋ねること、秘密を守るよう求められることなどがある。
警察は、質問をしたり、電話を確認したり、考えるために一時停止したり、ソーシャル メディアでの共有を制限したりすることが、詐欺から身を守るのに役立つと述べた。