バージニア州北部の弁護士ケイシー・モリスさんは最近、長い休みの後、再びフェイスブックをチェックし始めた。友人や家族からの投稿の中に、奇妙な傾向に気づいた。
「キャプションには『目を70%閉じて魔法を見よう』と書いてある。目を細めなくても、明らかにイエスの絵だが、野菜やトラクター、歪んだ少女でできている」とモリスさんは言う。
モリスのフィードで奇妙なのはそれだけではない。同じキャプションの似たような写真が繰り返し投稿された。また、泥の中にいる障害のある母親と子どもや、笑顔の手足の切断者を描いた、誕生日のお祝いを尋ねるキャプション付きの、感情を搾取するような投稿も見られた。
「フェイスブックは私にとって非常に奇妙で、非常に不気味な場所になった」とモリスさんは言う。
題材、文体の手がかり、奇妙な間違いなどから、モリスにはこれらの画像が偽物、つまり人工知能の産物であることがすぐに明らかになった。
これらの画像は、彼女の知り合いやフォローしている人が投稿したものではない。代わりに、Facebookが彼女がそれらに興味を持っているかもしれないと示唆しており、それらは非常に人気があるようだ。
「それらは、本物だと思っているように見える人々から、誕生日を祝ったり、コメントで宗教的なことを言ったりする何千もの反応と何千ものコメントを得ています」と彼女は語った。
フィードがAI生成のスパムでいっぱいになり始めたFacebookユーザーはモリスだけではない。テクノロジー系ウェブサイト404 Mediaの記者らは、Metaが所有するFacebook上で、ここ数カ月の間に明らかにAI生成の投稿が急増しているのを追跡した。このような AI 生成画像は、Meta が所有する Threads や LinkedIn など、他のソーシャル メディア サイトにも表示され始めています。
スパムと詐欺
Facebook では、多くの場合、プラッ トフォーム独自のアルゴリズムが AI 投稿を ブースト しているようです。
ジョージタウン大学とスタンフォード大学の研究者らが、AI コンテンツを日常的に (時には 1 日に数十回) 投稿している 100 以上の Facebook ページを 調査 したところ、多くのページが詐欺やスパム行為に関与していることが判明しました。
「丸太小屋から誕生日ケーキを持ったおばあちゃん、現実とは思えない見事な絵を描いた子供たちまで、想像できるあらゆるものの AI 生成画像を見ました」と、ジョージタウン大学の研究員で、まだ査読を受けていないプレプリント研究の共著者であるジョシュ・ゴールドスタイン氏は語りました。
ゴールドスタイン氏と共著者らはまた、Facebook がこうした AI コンテンツの一部をユーザーのフィードに積極的に推奨していることも発見しました。これにより、投稿のエンゲージメントが高まり、さらに多くのユーザーに推奨されるというサイクルが生まれる可能性があります。彼らが分析したページの個々の投稿の中には、数十万、さらには数百万のインタラクションが蓄積されているものもあります。
「これらは、少数の人が反応しただけの散発的な画像ではありませんでした。本当に大きな注目を集めていました」とゴールドスタイン氏は語った。
彼らの分析により、これらのページの一部は典型的なスパムであり、広告収入を得られるウェブサイトへのリンクを掲載していることが判明した。他のページは詐欺師 であり、実際には存在しないように見えるAI生成製品を宣伝している。
しかし、多くのページには明確な金銭的動機がないとゴールドスタイン氏は語った。それらは単に不明な目的で視聴者を集めているようだ。
「これらは視聴者を増やそうとしていた悪質なページであり、後に商品を販売しようとしたり、広告満載のウェブサイトにリンクしたり、あるいはトピックをまったく政治的なものに変えたりした可能性があります」とゴールドスタイン氏は語った。「しかし、これらのページの多くは、視聴者のエンゲージメントを獲得するための有用な戦術であると気づいた作成者だけだったのではないかと思います。」
クリックベイトはソーシャルメディアに常に存在していた。しかし、ここ数年でFacebookは、TikTokが先駆けとなったソーシャルメディアの変化に追いつこうと、ユーザーに推奨する投稿の数を2倍に増やしてきた。最近の収益報告で、MetaのCEOマーク・ザッカーバーグはアナリストに対し、推奨投稿がユーザーのフィードの約30％を占めていると語り、### 現実に基づいた画像から不気味なものへの移行
同時に、AIが生成したコンテンツは、誰にとってもかつてないほど簡単に作成できるようになりました。これらの力学が合わさって、イエスの奇妙な描写、不穏な誕生日投稿、ありえない建築物や工芸品がバイラルになるレシピが生まれている。
「これは、何かがバイラルになる要素をすべて模倣しているようなものです。しかし、彼らが入れている画像は、私が今まで見た中で最も奇妙なものです」と、Facebook で AI を 2 年近く追跡しているフリーランス ライターのブライアン ペニー氏は言う。彼は AI 画像を共有し、その真偽を暴くことに専念するグループの一員である。
ペニーは、昨年話題になった、AI が生成した フランシスコ法王 のパフコート姿の描写のような 現実 にある程度基づいた写真から、はるかに不気味なものへと変化しているのを目にしている。
「私たちは、ユーザーに良い体験をしてもらいたいので、スパムやセンセーショナルなコンテンツの拡散を減らすよう努めています。そのため、フィードに表示されるものをコントロールできるようにしています」と、Meta の広報担当者は NPR に声明で述べた。
同社は、業界をリードするツールで作成された AI 生成コンテンツ に近々ラベルを付ける予定だ。先週、TikTok は、プラットフォーム上の一部の AI 生成投稿に同様のラベルを付け始めた。
一方、AI スパムの急増は、多くの人々をうんざりさせている。
ミシガン州グランドラピッズに住むカトリーナ・マクベイさんは、Facebook で見かける木工品やその他の室内装飾品が明らかに偽物であるため、母親に購入を止めさせなければならなかったと語る。
「彼女は『これはあなたの娘にとってとても素晴らしいことではないですか』と言うでしょう」とマクベイ氏は言う。「でも私は『でもそれは現実じゃない』と言うのです」
一部のFacebookユーザーは、スパム的なAI画像を勧められることに不満を抱き、プラットフォームを完全にやめることを検討している。
「いとこがサハラ砂漠に行ったばかりだと知るために、これらすべてを精査しなければならないのですか？」とロサンゼルスの家具デザイナー、ボリス・ルゾンカ氏は尋ねる。「もう私には価値がありません」
FacebookのAIスパムが迷惑だと感じるだけでなく、NPRが話を聞いた多くの人々は、人工画像が至る所に現れることのより大きなリスクを心配していると言う。
「それは人々の不信感を強め、何が現実なのかを見極めにくくするだけです」と、科学に特化したFacebookグループで新しい発見を描写していると主張するAI画像が現れるのを見たノースカロライナ州の人形遣い、ホビー・フォード氏は言う。
「そして私はそれが今の世界では危険だと思う」と彼は語った。