約200万回の視聴と8,000件のコメントを獲得したYouTube動画は、リトルトンのわいせつな「本当の犯罪」の物語を詳細に描いており、動画の説明によると「町を根底から揺るがす秘密と嘘の隠された世界を暴露した」とのこと。
唯一の問題は？
リトルトンの不動産業者が「秘密のゲイの情事」の後に義理の息子に殺害されたという「心をつかむ本当の犯罪物語」は、どう見ても完全なフィクションだ。この25分間の動画は、おそらく生成型人工知能プログラムで作成され、ナレーションもされている。
「このようなものを見ても驚 きません」と、コロラド大学ボルダー校でテクノロジー倫理、インターネット法と政策、オンラインコミュニティを研究・指導している准教授のケイシー・フィスラー氏は言う。
フィスラー氏は、偽の陰謀を広めるためにAIが生成した同様のコンテンツを見たことがあるという。
「真実の犯罪は、陰謀論と同じようにジャンルとして大いに意味がある。なぜなら人々はこの種のコンテンツを視聴するからだ」とフィスラー氏は言う。「動機は金だ」
YouTubeチャンネル「True Crime Case Files」は、似たような見た目で似たようなテーマの「真実の犯罪」コンテンツを8か月間も配信してきたが、すべて実際のニュース映像ではなく静止画に頼っている。7月30日、同チャンネルは、2014年に義理の息子ハリソン・エンゲルバートに「残忍な殺人」で殺されたとされる不動産業者リチャード・エンゲルバートに関する動画を投稿した。
動画によると、ハリソン・エンゲルバートは警察の捜査と陪審裁判の後、第2級殺人で有罪となり、仮釈放の可能性のない懲役25年の刑を宣告された。動画によると、コミュニティは「深く動揺した」という。
しかし、これらのことが起こったという証拠はない。動画のナレーションでは、この事件は地元および全国のメディアの注目を集めたとされているが、Google 検索では 2014 年の報道は見つからない。地元の法執行当局は、この事件に該当する記録は見つかっていないと述べている。また、コロラド州矯正局にはハリソン・エンゲルバートという名の受刑者は記載されていない。
第 18 司法地区検察局のメディア関係部長であるエリック・ロス氏は、コロラド州の 裁判記録を検索しても名前がまったく出てこなかったため、この話は捏造されたようだと述べた。
リトルトン警察署のクリスタ・シュミット巡査部長は、同署は動画で説明されている犯罪を捜査しておらず、この部分で使用されている名前は同署が関わったことのある人物ではないと述べた。
しかし、動画のコメント欄には、視聴者が次々と、この偽りの犯罪の凶悪さに衝撃、憤り、嫌悪感を表明している。
「インターネットで見たからといって、人々が何かを信じるというやり方は、ますます問題になるだろう」とコロラド大学のフィスラー氏は述べた。
フィスラー氏は、この動画 1 本で、連絡先情報が記載されていない作成者に数万ドルの収益がもたらされた可能性があると見積もっている。
彼女が動画を見たとき、AI の危険信号がすぐに目に飛び込んできた。
音声ナレーションがおかしかったと彼女は言う。動画で使用されている人々の写真 (すべてスタジオ風のポートレート) は「不気味の谷」のような外観をしていると彼女は言う。写真の Google 逆画像検索では、実際の結果は表示されない。
動画内の事実もつじつまが合わない。
たとえば、ぎこちないナレーションでは、最初はリトルトンのブリーク ストリート (この町には存在しない通り) で殺人事件が起きたと言っているが、後にオーク ストリートで起きたと言っている。ナレーターは「エンゲルバート」の発音を頻繁に変えている。動画ではまた、リチャード エンゲルバートの妻ウェンディ エンゲルバートは校長だったが、コロラド州では選挙で選ばれる役職ではない「学校長」になるための選挙運動 から撤退しなければならなかったと言っている。
動画で使われた他の名前は、Google検索では出てこない。地方検事ローラ・ミッチェル、刑事ジェームズ・キャトル、隣人のルビー・ジョンソン・ガンツ。
Google検索で明らかになるのは、オリジナルの偽動画を要約したYouTube動画やTikTok、ウェブページなどの模倣動画が数十本だ。
誤情報の作成は目新しいことではないが、AI生成コンテンツの登場により、テクノロジーによってより多くの人が偽コンテンツを作成し、拡散できるようになったとフィスラー氏は述べた。
「生成AIがもたらしたのは、この種の悪質な行為者を民主化したことだ。つまり、この種のコンテンツを作成できる人が増えれば増えるほど、私たちが目にするコンテンツも増えるということだ」とフィスラー氏は述べた。