レポート 6134

ここ数週間、YouTubeで奇妙な現象が発生しています。アップロードされた動画の一部が、作成者が何もしていないにもかかわらず、微妙に加工され、見た目が変わってしまうのです。視聴者は気づきました「余計に強い影」「奇妙にシャープなエッジ」、そして映像が滑らかになり「プラスチックみたい」に見えるといった現象に気づいています。多くの人が同じ結論に達しています。YouTubeは作成者に知らせずに、AIを使ってプラットフォーム上の動画を微調整しているのです。

YouTubeの動画で、ビデオデッキに通すことで「本物の80年代の美学」を実現しているMr. Bravoという名のマルチメディアアーティストは、Redditに、自分の動画が「最初にアップロードしたものとはまったく違う」と書いている。「動画の魅力の大きな部分は、VHSの見た目と、粗くて色あせた動画品質です」と彼は書いている。YouTubeのフィルターはこの手間のかかる品質を覆い隠している。「YouTubeがこのようにコンテンツを完全に変えてしまう機能を追加できるなんて馬鹿げている」と彼は書いている。もう一人のYouTuber、レット・シュル氏は先週、自身のショートビデオと友人のリック・ベアトのショートビデオに何が起こっているかについての動画を投稿した。2人とも非常に人気のある音楽チャンネルを運営しており、それぞれ70万人以上と500万人以上の登録者数を抱えている。動画の中でシュル氏は、「AIアップスケーリング」（画像の解像度とディテールを向上させる処理）が使用されていると考えており、それが視聴者にどのようなメッセージを送る可能性があるかを懸念している。「動画制作にAIを使っている、ディープフェイクされている、あるいは何らかの形で手抜きをしていると思われてしまうのではないか」と彼は述べた。「視聴者の私のコンテンツに対する信頼は必然的に損なわれるだろう」

メディアをほとんど手間をかけずに生成、強化、改変できるAI時代において、フェイクは広く懸念されている。同じピクセルで塗りつぶされた長方形の中に、時間と労力を費やし、人前でパフォーマンスする勇気を持った人の作品も、ベッドに座りながらプロンプトを入力し、クリップをつなぎ合わせて小銭稼ぎをしている人の作品も、混在している可能性があります。後者に騙されたくない視聴者は、AIによる改変の微妙な兆候にも注意を払う必要があります。YouTubeは、新たに生み出された合成コンテンツとの差別化を図りたいクリエイターにとって、その作業をより困難にしようとしているようです。

YouTubeの親会社であるGoogleに、これらの動画の現状について問い合わせたところ、広報担当者のアリソン・トー氏は「一部のYouTube Shortsで、画像補正技術を用いてコンテンツを鮮明化する実験を行っています。これらの補正は生成AIによるものではありません」と回答しました。しかし、これは難しい説明です。「生成AI」には厳密な技術的定義がなく、「画像補正技術」はあらゆるものを指す可能性があります。どのような技術がどのような目的で使用されているのか、より詳細な情報を尋ねました。トー氏は、YouTubeは「従来の機械学習を用いて、動画のぼかしやノイズを除去し、鮮明度を向上させている」と述べた。（修正された動画が全ユーザーに表示されるのか、一部のユーザーだけに表示されるのかは不明だ。テクノロジー企業は新機能の限定的なテストを実施することがある。）

トー氏の説明は、生成AIプログラムが全く新しい動画を作成する際に行われるプロセスと驚くほど似ている。これらのプログラムは通常、拡散モデルを使用する。これは、非常にノイズの多い画像を鮮明でシャープなエッジと滑らかなテクスチャを持つ画像に改良するように訓練された機械学習プログラムである。AIアップスケーラーは、同じ拡散プロセスを用いて、新しい画像を作成するのではなく、既存の画像を「改善」することができる。この基盤となるプロセスの類似性が、これらのYouTuberの動画に拡散ベースのAIの視覚的特徴が見られる理由を説明できるかもしれない。

YouTubeはこの実験と並行して、最近リリースされた一連のツールを使ってAI生成のショート動画を作成し、投稿することを奨励してきました。これらのツールを使えば、静止画にアニメーションを付けたり、「水中を泳いだり、そっくりな兄弟と双子になったり」といったエフェクトを加えたりすることができます。YouTubeはこの実験の動機について明らかにしていませんが、プラットフォーム全体でより統一感のある美観を作り出すことが目的ではないかと考える人もいます。あるYouTubeコメント投稿者は次のように書いています。「彼らは私たち視聴者がAIの見た目に慣れ、最終的には普通のものとして見られるように訓練しているのです。」

AI生成コンテンツを自社のプラットフォームに取り入れようと急いでいるのはGoogleだけではありません。 Metaは、同社が提供する「AI Studio」ツールを使って、ユーザーがFacebookやInstagramで独自のAIチャットボットを作成し、公開することを推奨しています。昨年12月、MetaのジェネレーティブAI製品担当副社長は、Financial Timesに対し、「これらのAIは、時間の経過とともに、人間のアカウントと同じように、私たちのプラットフォーム上に実際に存在するようになると期待しています」と述べました。

もう少し不気味さを抑えた例として、Snapchatはユーザーが撮影した自撮り写真に基づいて「斬新な画像を生成する」ためのツールを提供しています。そして昨年、TikTokはSymphony Creative Studioを導入しました。これは動画を自動生成するツールで、「Your Daily Video Generations」機能を搭載しており、毎日新しい動画を自動的に提案します。

これは「ソーシャル」メディアとしては奇妙な方向転換です。人々同士を繋ぐ、あるいは少なくとも体験やパフォーマンスを共有するという理念に基づいているはずのプラットフォーム（2013年までYouTubeのスローガンは「Broadcast Yourself（自分をブロードキャストしよう）」でした）が、今では私たちに非人間的でアルゴリズム的な粥のようなコンテンツを消費させることに注力しているように見えます。シュール氏は、自分の動画の改変によってYouTubeへの信頼が損なわれていると述べていますが、そうでないわけがありません。YouTubeの優先事項は明らかにシュール氏のようなクリエイターから離れつつあります。彼らの共同作業こそが、YouTubeが今日のような巨大企業になった大きな理由なのです。