ジョセフ・アレン医師（検眼医）は、学会での講演やソーシャルメディア、そして自身のYouTubeチャンネル「Dr. Eye Health」（https://www.youtube.com/doctoreyehealth）で広く知られており、様々な眼科医療に関するトピックについてフォロワーに情報を提供しています。しかし、その知名度には裏側もありました。ソーシャルメディア上で、アレン医師そっくりの動画が拡散され、偽情報を流布したり、偽商品を販売したりしているのを発見したのです。アレン医師は、まさに「AIディープフェイク詐欺」の被害者でした。
AIによって生成されたディープフェイク動画や粗悪な動画は、ますます多くの医師を標的にしており、医師になりすまして、低品質でアルゴリズム主導のコンテンツを作成し、危険な健康に関する誤情報を拡散させています。ディープフェイクとは、悪意のある情報や虚偽の情報を拡散する目的で、実在の人物になりすますためにAIによって操作または捏造されたコンテンツのことです。
AIスロップ動画とは、ソーシャルメディアのエンゲージメントアルゴリズムを悪用し、YouTube、TikTok、Instagramなどのプラットフォームに大量に投稿され、オリジナルコンテンツ制作者を駆逐するAI生成動画コンテンツのことです。アレン医師は、「これらの動画の中には、眼科医を受診しないように、そして眼科医療全体が詐欺であると主張するものもあります」と述べています。
アレン医師は弁護士の助言を受け、自身のチャンネルを標的としたディープフェイク動画に異議を申し立てましたが、偽アカウントを発見したTikTokアカウントにたどり着くまで1ヶ月、そして自身が正真正銘の「Dr. Eye Health」であることを証明するのにさらに3週間を要しました。アカウントは削除されましたが、詐欺師は2～3時間以内に新しいアカウントを作成し、以前のコンテンツをすべて再アップロードしました。アレン医師の場合、詐欺で販売されていた商品は近視を改善する点眼薬でした。問題の動画は、Amazonで数百万ドル相当の商品を販売していた中国企業から発信されたものと特定されました。動画の内容については依然として不明です。
アレン博士は、AI生成動画の特徴的な兆候に注意するよう勧めています。ただし、AIの技術が進歩するにつれて、これらの兆候はより巧妙になったり、修正されたりする可能性があることを念頭に置いておく必要があります。動画の内容をよく観察し、不自然な編集がないか確認してください。例えば、被写体の唇の動きと音声が一致しているか、瞬きが多すぎたり少なすぎたりするかなどです。あまりにも都合の良い商品を宣伝している場合は、おそらく偽物でしょう。そのようなコンテンツには、注意深く観察し、判断するようにしてください。
動画は自然に見えますか？ディープフェイクは依然として自然光の再現に課題があり、照明条件や反射の不一致によって、被写体が不自然に見えることがあります。 MITの研究者からは、目や眉毛、まばたき、眼鏡の反射など、偽物を見分けるためのより多くの手がかりが提供されています。AIが現実と虚構の境界線を曖昧にするにつれ、メディアコンテンツに対する個人の批判的思考が求められるようになります。