コロラド州リトルトンで起きた架空の殺人事件を描いた YouTube 動画が話題となり、再生回数が 200 万回近くに達した。しかし、この動画は実際の犯罪に基づいたものではない。
この「真実の犯罪」ドキュメンタリーは、すべて 人工知能 を使用して作成された。この動画の制作元であるチャンネル「True Crime Case Files」は、YouTube の真実の犯罪コンテンツの発信地としてブランド化され、急速に人気を集めている。
ひどい。私はそれほど頭が良くないが、偽物だとすぐに分かった。
--- Just Sheri (@AngryLiberal59) 2024年9月3日
2023年12月の開始以来、このチャンネルは85,000人以上の登録者を獲得しています。
フォートコリンズの嫉妬深い夫が2019年に妻を殺害したと主張する捏造されたストーリーの1つは、20万回の視聴回数を獲得しました。このビデオは、完全に虚偽であるため、国の最高検察官の注目を集めました。
この動画を目の当たりにしたゴードン・マクラフリン地方検事は困惑と懸念を表明し、「いったいどこからこんなものが出てきたのか。実際の事件ではないことは確かだ。実際の事件に基づいていない。実際の事件とはまったく似ていない。まったくの作り話だ」と述べた。
このチャンネルには、AIを使って作成された100本以上の動画が投稿されているようだ。各動画の長さは約25分で、同じ静止画像とナレーターを使って物語を語っている。
動画は架空のものだが、多くの視聴者は動画の信憑性を確信しており、各動画の下には何百ものコメントが寄せられている。
マクラフリン氏は、これらの偽物語が実際の犯罪に与える影響について特に懸念している。
同氏は、「人々が犯罪の報告を信用しなくなると、犯罪の本当の被害者を信用しなくなる可能性がある」と指摘した。彼は、虚偽のコンテンツが広く流布されると、刑事司法制度に対する国民の信頼が損なわれる可能性があると強調した。「これほど広く流布され、人々が騙されていたことやそれが真実ではないことに気付くと、制度全体に対する不信が広がる」
地方検事としてのマクラフリン氏の主な任務は、合理的な疑いを超えて被告の有罪を陪審員に納得させることだ。
彼は、AI技術が写真や動画の証拠の信頼性に及ぼす潜在的な影響について懸 念を示し、「AIが写真を改変したり、古い写真や動画を空から作り出したりすることは、陪審員に私たちを信頼してもらう能力に本当に影響を与える可能性がある」と述べた。
同じチャンネルの別の動画も、リトルトンでの殺人事件を虚偽に描写しており、約200万回の視聴回数を獲得した。
リトルトン警察署は、動画で取り上げられた事件は完全に捏造されたものであることを確認した。
マクローリン氏は、こうした捏造された記事が頻繁に投稿されていることに懸念を示し、「このような偽記事はほぼ毎日投稿されています。その規模から判断すると、より多くの人々を騙し、だますことができるということです」と述べた。
AI が生成した誤情報の現象は、こうしたコンテンツがデジタル プラットフォーム上で抑制されずに広がり続けているため、犯罪報道や司法手続きに対する国民の信頼の将来に大きな懸念を引き起こしている。