ネット上の荒らしや人種差別主義者たちは、この悲劇的なフリスコ高校陸上競技大会での刺傷事件を悪用し、オンラインで偽情報を拡散したり、AI生成のディープフェイク動画を作成したりしています。
今週Instagramに投稿されたAI生成動画の一つでは、CBSニュース・テキサスのキャスター、ダグ・ダンバーの映像が操作され、ダンバーが実際には言っていない発言をしているように見せかけられていました。また、この動画ではAIが、容疑者のカーメロ・アンソニーがナイフを手に持っている、完全に偽の動画画像も作成していました。
CBSニュースConfirmチームは、この動画を実際に何人が見たかは不明だが、複数のアカウントで再投稿されたと述べています。Instagramの元の投稿は現在削除されています。
ディープフェイク技術の調査
CBSニューステキサスI-Teamは1年以上にわたり、ディープフェイク動画の背後にある技術を調査中です。ノーステキサス大学デントン校のクリストファー・ミールド教授は、2024年のI-Teamへのインタビューで、技術の進歩によりディープフェイクの作成が容易になっていると述べています。実際、静止画1枚だけでディープフェイクを作成することも可能です。
「これらの動画は飛躍的に向上するでしょう」とミールド教授は述べています。「人工知能の進歩は非常に速く、より説得力のあるものになるでしょう。そして、本当に正確なものを作るには、より小さなデータセットが必要になるでしょう。」
ソーシャルメディア企業と誤情報
今年初め、MetaのCEOであるマーク・ザッカーバーグ氏は、FacebookとInstagramのプラットフォームにおけるファクトチェッカーの利用を終了と発表し、代わりにイーロン・マスク氏のソーシャルプラットフォーム「X」に類似した「コミュニティノート」と呼ばれる機能を通じて、ユーザーが誤情報を報告できるようにするとしました。
テキサス・クリスチャン大学でソーシ ャルメディアと言論の自由を専門とするジャーナリズム教授、ダクストン・「チップ」・スチュワート博士は、オンラインでの偽情報の拡散は目新しいものではないものの、Metaによる最近の変更が問題を悪化させていると説明しています。