レポート 4385

アンナ・モッケルは14歳で、突然ダイエットに夢中になった。2020年の春、彼女はちょうどリモートで8年生を卒業したばかりだった。秋に高校に進学することを心配しながら家に閉じこもり、コロナ禍の夏、彼女はソーシャルメディアアプリを行き来しながら数え切れないほどの時間を犠牲にした。

アンナはYouTubeで「特に何かを検索しているわけではなく」、フィードに表示されるものを見ているだけだった。少し年上でいつも痩せている女の子が登場する動画を見たときに、考えが渦巻き始めたことを彼女は覚えている。アンナが見れば見るほど、これらの動画がフィードを埋め尽くし、動画の女の子のようになりたいと彼女はますます決意した。

彼女がクリックしたりタップしたりすると、YouTubeのおすすめ動画の「次に見る」パネルは、痩せた女の子が登場するコンテンツから、ダイエットの「ハウツー」に変わり始めた。ダイエットやエクササイズの動画がアンナのアカウントを独占し始めた。視聴を続けるうちに、コンテンツはどんどん激しくなり、ついには彼女のフィードには、骸骨のような体を称賛する動画や、1日500カロリーの食事を維持するためのコツが溢れかえったという。（思春期の少女には1日2,200カロリーの摂取が推奨されている。）

「ネット上でそんなものが存在することすら知りませんでした」と、彼女に勧められた摂食障害のコンテンツについてアンナは言う。「フィードにたくさん流れてきて、それがすでに私に起こっていたことだったので、それに惹かれたのです」

アンナは見たものを真似て食事を制限し、驚くべきペースで体重を減らし始めた。14歳のとき、摂食障害のことは知っていたが、拒食症と診断されるまで「それが何なのかわからなかった」と彼女は言う。その後数年間、彼女は2度の入院に耐え、3か月間居住型治療センターで過ごし、16歳で回復し始めた。

現在18歳で高校3年生の彼女は、ソーシャルメディア、特にYouTubeが彼女の摂食障害を助長したと主張する。

「YouTubeは摂食障害と競争する人々のコミュニティになりました」と彼女は言う。「そして、オンラインで同じことをしている人がたくさんいるので、[拒食症]は問題ではないという考え方を私に与え続けました。」

現在、新しい研究により、このコンテンツが意図的にアナに提供されたことが確認されている。火曜日にデジタルヘイト対策センターが発表した報告書によると、YouTubeユーザーがダイエットや減量に関心を示す兆候を示すと、プラットフォームのアルゴリズムによってプッシュされる動画のほぼ70％が、体のイメージを悪化させたり不安を抱かせたりする可能性のあるコンテンツを推奨する。

さらに、これらの動画の平均視聴回数は 1 本あたり 344,000 回で、これは YouTube 動画の平均視聴回数の約 60 倍に相当し、Nike、T-Mobile、Grammarly などの大手ブランドの広告がふんだんに盛り込まれている。これらの企業が広告の配置を認識しているかどうかは不明だ。

「成人期を迎える新世代に対して、ソーシャル メディア プラットフォームが実験を続けることは許されない」と語るのは、オンラインの安全性について家族を教育する非営利団体 Common Sense Media の創設者兼 CEO である James P. Steyer 氏だ。

同氏は、これらのプラットフォームは、たとえ未成年者にとって有害なコンテンツを増幅することになったとしても、視聴者の注目を維持するように設計されていると述べている。

「YouTube の拒食症アルゴリズム」と題されたこのレポートでは、10 代の少女が減量、ダイエット、または運動に関する動画を初めて視聴するときに「次に見る」パネルで表示される最初の 1,000 本の動画を調査している。

データ収集のため、CCDH の研究者は 13 歳の少女の YouTube プロフィールを作成し、動画共有プラットフォームで「ED WIEIAD」（摂食障害、1 日の食事）、「ABC ダイエット」（拒食症ブートキャンプ ダイエット）、「安全な食品」（カロリーの少ないまたはゼロの食品への言及）などの摂食障害に関する人気のキーワードを使用して 100 回の検索を実行しました。次に、研究チームは YouTube のアルゴリズムが「次に見る」パネルにプッシュした上位 10 件の推奨動画を分析しました。

結果によると、推奨動画のほぼ 3 分の 2（638 本）が、この架空の 13 歳のユーザーを摂食障害または問題のある減量コンテンツにさらに誘導しました。YouTube の推奨動画の 3 分の 1（344 本）は CCDH によって有害と判断されました。つまり、コンテンツが摂食障害を助長または美化していたり、体重に基づくいじめが含まれていたり、模倣可能な行動を示していたりしたということです。この研究では、50 本の動画に自傷行為または自殺に関するコンテンツが含まれていたことがわかりました。

「YouTube のようなソーシャル メディア プラットフォームによって、反人間的な文化が生み出されている」と、デジタル ヘイト対策センターの創設者兼 CEO であるイムラン アーメド氏は語る。「今日の子供たちは、基本的にアルゴリズムによって再教育され、企業によって飢え死にするように教えられ、説得されている」

アーメド氏は、この調査は、Google が所有する YouTube がプラットフォーム上でこのようなコンテンツを許可することで自社のポリシーに違反しているという、問題の体系的な性質を示していると語る。

ピュー研究所によると、YouTube は米国の 10 代の若者の間で最も人気のソーシャル メディア サイトであり、TikTok や Instagram を上回っている。米国の 10 代の若者の 4 分の 3 が、少なくとも 1 日に 1 回は YouTube を使用していると答えている。YouTube では、ユーザーがコンテンツを視聴するためにアカウントを作成する必要はない。

2021年Facebook文書を受けて設立されたシアトルを拠点とする法律事務所、ソーシャル メディア被害者法律センターは、YouTubeを含むソーシャル メディア企業に対して何千件もの訴訟を起こしている。そのうち20件以上の訴訟では、YouTubeは意図的に中毒性を持たせ、ユーザー、特に10代の少女の摂食障害を永続させるように設計されていると主張している。

法律事務所は60 Minutesを17歳のクライアントと結びつけた。彼女の経験はアンナのそれと似ている。

「YouTubeは私に摂食障害の_方法_を教えてくれました」と、訴訟でYouTubeが故意に拒食症を永続させていると非難している17歳の少女は言う。彼女は12歳の時にYouTubeアカウントを作成したという。犬の動画や体操競技、料理のチュートリアルを見るためにログインしていた。その後、ダンスやエクササイズをする女の子の動画が見られるようになったという。彼女はクリックした。YouTubeは、より過激なエクササイズをする女の子の動画をもっと勧めてきたが、それはダイエットや減量の動画に変わった。彼女は見続け、クリックし続けた。

彼女のフィードは摂食障害に関するコンテンツの集積地となり、過激なダイエットや「痩せ続ける」方法を宣伝するインフルエンサーが続々と現れたという。彼女はYouTubeで1日5時間過ごし、「過食症」や「ARFID」（回避性/制限性食物摂取障害）などの用語を学んだ。彼女は「吐き出す」ことや「制限する」ことが何を意味するのかを知り、摂取カロリーやBMI（ボディマス指数）について深く考えるようになった。

彼女は7年生の時に食べるのをやめた。その後すぐに拒食症と診断され、その後5年間は学校にいる時間よりも学校を離れる時間の方が長くなったという。現在高校3年生の彼女は、摂食障害から回復しようと5回入院し、3つの居住型治療センターで数か月を過ごした。

「摂食障害は私の人生をほとんど奪いました」と彼女は振り返る。

アルゴリズムが若いユーザーを保護するためではなく、摂食障害のコンテンツを意図的に推奨するために使用されている理由について尋ねられたが、YouTubeはコメントを控えた。

この動画共有サイトは、「精神衛生の専門家と継続的に協力し、ティーン向けのコンテンツ推奨へのアプローチを改良している」と述べている。 2023年4月、同プラットフォームは摂食障害や自傷行為に関するコンテンツに関するポリシーを拡大し、「教育的、ドキュメンタリー的、科学的、または芸術的」な摂食障害を含む動画や「リスクのある視聴者にとって刺激となる可能性のある詳細」を議論する動画に年齢制限を課す機能を追加した。このポリシーでは、これらの動画は18歳未満の視聴者には表示されない可能性がある。

YouTubeは、やせ細った体の映像を見つけるために使用される単語「thinspiration」などの特定の検索語をブロックする措置を講じている。しかし、CCDHの調査では、そのような動画が依然として「次の動画」パネルに表示されることが判明した。また、ユーザーは、文字「O」の代わりにゼロ、「I」の代わりに感嘆符を入力すると、これらの用語がYouTubeで引き続き検索可能であることを知る。レポートで骸骨の体型を美化するものとして言及されたある動画は、分析時点で110万回視聴されていたが、現在は160万回となっている。

調査の一環として、CCDH は摂食障害や体重によるいじめ、模倣可能な行動を助長する YouTube 動画 100 本にフラグを付けました。YouTube が削除または年齢制限を設けたのは、これらの動画のうち 18 本のみです。