関連インシデント
スワンさんは最初にこの広告をフェイスブックで見た。その後、TikTokでも見た。イーロン・マスクらしき人物が投資機会を何度も売り込んでいるのを見て、ハイディ・スワンさんはそれが真実に違いないと思った。
「イーロン・マスクにそっくりで、声もイーロン・マスクにそっくりだったので、彼だと思った」とスワンさんは言う。
彼女はこの広告の背後にある会社に連絡を取り、1万ドル以上の口座を開設した。62歳の医療従事者は、数十億ドルの価値があるビジネスマン兼投資家から仮想通貨に賢い投資をしていると思っていた。
し かし、スワンさんはすぐに、人工知能を使ってディープフェイクを作成するハイテク泥棒の新たな波に騙されたことを知ることになる。スワン氏は、今になって動画を振り返ってみても、偽物だとわかっていても、説得力があると考えている。
「まだイーロン・マスクのように見えます」と彼女は言う。「まだイーロン・マスクのように聞こえます」
米国でディープフェイク詐欺が増加中
人工知能技術が進化し、よりアクセスしやすくなるにつれて、こうした詐欺はより一般的になりつつある。
大手金融調査グループであるデロイトによると、AI生成コンテンツは昨年120億ドル以上の詐欺被害をもたらし、2027年までに米国で400億ドルに達する可能性がある。
連邦取引委員会と[Better Businessディープフェイク詐欺が増加していると、米国司法省の調査が警告を発している。
AI企業センシティの調査によると、ディープフェイク詐欺に最も多く使われている有名人はイーロン・マスクだ。理由の1つは、彼の富と起業家精神だと考えられる。もう1つの理由は、彼が行ったインタビューの数だ。オンライン上の人物のコンテンツが多ければ多いほど、説得力のあるディープフェイクを作成しやすく なる。
ディープフェイクの構造
デントンにあるノーステキサス大学では、クリストファー・ミード教授も人工知能を利用している。しかし、彼はそれを芸術作品の創作に利用している。
「人工知能が創造的な芸術に取って代わることはないだろう」とミード教授は語った。 「AIはそれらを拡張し、創造性の領域でできることを理解する方法を変えるだけです。」
Meerdo氏は人工知能を革新的になる方法と見ていますが、その危険性も認識しています。
Meerdo氏はCBS News Texas I-Teamに、詐欺師が本物のビデオを撮影し、AIツールを使用して人の声と口の動きを置き換え、まったく別のことを言っているように見せる方法を示しました。
技術の進歩により、ディープフェイクビデオの作成が容易になっています。 AIに精通している人がディープフェイクビデオを作成するために必要なのは、1枚の静止画像とビデオ録画だけです。
これを実証するために、Meerdo氏は調査記者のブライアン・ニューのビデオを撮影し、イーロン・マスクのディープフェイクを作成しました。
これらのAI生成ビデオは完璧とは言えませんが、疑いを持たない被害者を騙すのに十分な説得力が必要です。
「本当に人を騙そうとしているなら、これでかなり悪いことができるようになると思う」とミールド氏は語った。
ディープフェイクはどうやって見分けられるのか？
ディープフェイクの中には、他のものよりも見分けやすいものがある。不自然な唇の動きや奇妙なボディランゲージなどの兆候があるかもしれない。しかし、技術が進歩するにつれて、見ただけでは見分けることが難しく なるだろう。
ディープフェイクを検出できると主張するウェブサイトが増えている。 CBS News Texas I-Team は、既知のディープフェイク動画 3 本と本物の動画 3 本を使用して、次の 5 つの Web サイトで非科学的なテストを行いました: Deepware、Attestiv、DeepFake-O-Meter、Sensity、Deepfake Detector。
合計で、これら 5 つのオンライン ツールは、テストした動画をほぼ 75% の確率で正しく識別しました。I-Team は結果を各企業に伝え、回答は以下のとおりです。 Deepware
無料で使用できるウェブサイト Deepware は、当初、I-Team がテストした偽の動画のうち 2 つをフラグ付けできませんでした。同社は電子メールで、使用されたクリップが短すぎたため、最良の結果を得るには、アップロードする動画の長さを 30 秒から 1 分にする必要があると述べました。Deepware は、それより長い動画をすべて正しく識別しました。同社によると、検出率は 70% で、業界としては良好とされています。
Deepware のウェブサイトの よくある質問 には、「ディープフェイクはまだ解決された問題ではありません。当社の結果は、特定の動画がディープフェイクである可能性を示しています。」と記載されています。
Deepfake Detector
月額 16.80 ドルのツールである Deepfake Detector は、偽の動画の 1 つを「97% 自然な音声」と識別しました。 AI 生成音声の検出を専門とする同社は、電子メールで、背景ノイズや音楽などの要因が結果に影響を与える可能性があるものの、精度は約 92% であると述べた。
一般消費者向けのガイダンスに関する質問に対して、同社は次のように回答した。「当社のツールはユーザーフレンドリーになるよう設計されています。一般消費者は、当社の Web サイトに音声ファイルを簡単にアップロードしたり、ブラウザ拡張機能を使用してコンテンツを直接分析したりできます。このツールは、確率を使用してビデオにディープフェイク要素が含まれているかどうかを判断するのに役立つ分析を提供し、AI テクノロジーに不慣れな人でもアクセスできるようにします。」
Attestiv
Attestiv は、本物のビデオのうち 2 つを「疑わしい」とフラグ付けした。同社の CEO である Nicos Vekiarides 氏によると、誤検出はグラフィックや編集などの要因によって引き起こされる可能性がある。「疑わしい」とフラグ付けされた本物のビデオはどちらも、グラフィックや編集が含まれていた。このサイトは無料サービスを提供しているが、有料プランもあり、消費者は設定や調整を調整してより詳細な分析を行うことができる。
ベキアリデス氏は、アテスティヴが完璧ではないことを認めながらも、ディープフェイクを肉眼で見分けることが難しくなるにつれ、こうした種類のウェブサイトが解決策の一部として必要になると述べた。
「当社のツールは、何かが疑わしいかどうかを判断でき、その後、自分の目で確認して『これは疑わしいと思う』と言うことができます」とベキアリデス氏は述べた。
DeepFake-O-Meter
DeepFake-O-Meter は、バッファロー大学と国立科学財団がサポートするもう 1 つの無料ツールです。このツールは、本物のビデオのうち 2 つが AI 生成の可能性が高いことを特定しました。
このオープン プラットフォームの作成者は電子メールで、ディープフェイク検出モデルの限界として、ビデオ圧縮によってビデオとオーディオの同期の問題や口の動きの一貫性のなさが生じる可能性があると述べました。
日常のユーザーがこのツールをどのように使用できるかという質問に対して、同社は電子メールで次のように回答した。「現在、ユーザーに表示される主な結果は、このサンプルがさまざまな検出モデルで生成されたサンプルである確率値です。複数のモデルが自信を持って同じ答えに同意する場合（たとえば、AI生成の場合は80％以上、実際のビデオの場合は20％未満）は、これを参照として使用できます。現在、よりわかりやすい結果表示方法と、包括的な検出結果を出力できる新しいモデルを開発しています。」
Sensity
Sensityのディープフェイク検出器は、6つのクリップすべてを正しく識別し、AI操作が最も可能性が高い場所を示すヒートマップを表示しました。
同社はサービスの無料試用期間を提供しており、現在は民間および公共機関向けにカスタマイズされていますが、将来的にはこのテクノロジーをすべての人が利用できるようにすることが目標であるとI-Teamに伝えました。