1Newsの調査によると、何千人ものニュージーランド人がソーシャルメディア上で「ニュース」に「いいね！」やコメント、シェアをしているが、そのニュースがAIによって作成され、ラベルも貼られておらず不正確な捏造画像が添えられていることに気づいていない可能性もある。
専門家は、こうしたアカウントの人気と急増により、実際の報道と捏造コンテンツの境界が曖昧になり、ニュージーランド人のニュースへの信頼度が既に低い状況に拍車をかけている可能性があると指摘している。また、民間防衛団体もこうしたページについて公に警告を発している。
1Newsは、既存のニュージーランドのニュース記事をAIで書き換え、合成画像とともにFacebookに投稿しているFacebookページを少なくとも10件特定した。
こうしたソーシャルメディアの「ニュース」ページの一つ、「NZ News Hub」は数千件の「いいね！」、コメント、シェアを獲得しており、1月に投稿された209件の投稿が調査対象となった。このページの名前は、2024年に閉鎖された全国紙Newshub（https://www.1news.co.nz/2024/07/05/thank-you-for-being-our-people-newshubs-hayes-mcroberts-sign-off/）に似ていました。
プロフィールには「NZ News Hubは、ニュージーランドの最新ニュース、速報、政治、ビジネス、スポーツ、コミュニティの最新情報をお届けします」とありましたが、ページには独自の報道は一切掲載されていないようです。
掲載された画像にはAI生成と明記されたものはなく、一部の投稿には実在の人物を偽装した写真が掲載されていました。
あるケースでは、マウント・マウンガヌイの土砂崩れで死亡した未成年者の静止画が、彼女が踊っているように加工されていました。また別のケースでは、10代の娘を自殺で亡くした両親の画像が、夫婦が愛情表現をしているように編集されていました。
自然災害や救急サービスに関する投稿は、常に実際の出来事を超えて誇張されていました。
NZ News Hub は、東海岸の高速道路での実際の滑落 をはるかに破壊的なものとして描写し、マウント マウンガヌイの滑落 に追加し、アカロアで座礁した観光船 を編集しました。実際よりもはるかに多くの乗客で満員に見えるようにするためです。
警察官はしばしばイギリスやアメリカの制服を着用し、公式発表では武装の兆候がないにもかかわらず、銃を構えている姿で描かれていました。
場合によっては、投稿に元のプロンプトが誤って残されており、上部に「わかりやすい見出し、絵文字、人気のハッシュタグを使ったニュース風のリライトです」と、下部に「ご希望であれば、これを短く、ドラマチックに、あるいはソーシャルメディア風にすることもできます」と書かれていました。
Google画像検索によると、このページに投稿された複数の写真のピクセルには「SynthID」というデジタル透かしが埋め込まれており、同社のAI画像生成ツールを使って作成されたことが示されています。
昨年11月下旬に開設されたNZ News Hubには、4700人以上のフォロワーがいました。個々の投稿には定期的に1,000件以上の「いいね！」やコメントが寄せられており、その多くはAI生成画像を批判し、「メディア」がフェイクニュースやAI技術の使用を非難する内容となっていますが、このページはいかなる報道機関とも一切関係がありません。
あるコメント投稿者がAI写真の使用を指摘した際、NZ News Hubは「ニュースは真実です」と返答しました。
ページ運営者は、1NewsからのAI生成画像の使用に関する詳細な質問（故人の家族の許可なく画像が作成された理由や、AI生成コンテンツにラベルが付いていない理由など）を読みましたが、回答しませんでした。
素早くスクロールして読み飛ばす人にとっては、これらの投稿と本物のニュースを区別できるものはほとんどありません。
当局、AI生成の誤情報に警鐘を鳴らす
当局は、報道機関を模倣し、捏造またはAI生成コンテンツを共有する偽のソーシャルメディアページについて、公に警告を発しています。
ギズボーン地区議会とタイラウィティ民間防衛局は先週木曜日、「報道機関を装い、AI生成画像や地域の出来事や緊急事態に関する捏造コンテンツを共有している」偽ページを確認したと発表した。
両機関は、一部の投稿がニュージーランドの電話番号や住所を使用したり、ブランドイメージや「速報ニュース」のスタイルを模倣したり、実在の人物や団体の許可なく名前を挙げたりすることで、信憑性があるように見せかけていると述べた。
Facebookに投稿された声明には、「正確な情報は、特に緊急対応時には重要です。地域社会の安全と十分な情報を確保しましょう」と記されている。
国家緊急事態管理庁（NEMA）は先月、全国で発生した悪天候の際にAI生成画像がオンラインで拡散していることについて警告を発した。特に、マウント・マウンガヌイで発生した壊滅的な土砂崩れに関する情報が拡散している。
NEMAは、「国民が信頼できる正確な緊急情報チャンネルを信頼し、安心できることが重要です。
緊急事態において、国民に情報を届ける主な手段はメディアです。」と述べた。
NEMAは、メディアと緊密に連携し、検証済みで信頼できる情報を国民に提供するよう努めたと付け加えた。
皆様には、常に警戒を怠らず、信頼できる情報源を利用し、情報を共有する前にその情報源が信頼できるものかどうかを確認するようお願いいたします。
対応にあたっては、流布されている情報を綿密に監視していますが、ニュージーランド国民の皆様には、疑わしい画像を見つけた際には指摘するか、適切な方法があれば報告するようお願いいたします。
スクレイピングされた情報、捏造された画像
オーストラリア工科大学（AUT）の准教授であり、ジャーナリズム・メディア・民主主義センターの共同ディレクターを務めるメルヤ・ミリラティ氏は、ソーシャルメディア上のAI生成「ニュース」ページは、公式発表を転用し、ラベルのないAI画像と組み合わせることで、正当なジャーナリズムと捏造コンテンツの境界を曖昧にする危険性があると指摘しました。
「彼らは、警察の通知やプレスリリースといった、実際のニュースサイトに掲載されている情報と同じものから、本物ではない、ラベルのないAI画像を作成しています」と彼女は述べています。
ミリラティ氏は最近、AIがどのように利用されているかについて報告書を発表しました。ニュージーランドのメディア業界の現状を調査する専門家は、1Newsに対し、この慣行は主流メディアの運営方法とは大きく異なると語った。
「私が取材を行い、大手ニュースメディアの編集者全員と話し合った際、TVNZ、RNZ、ニュージーランド・ヘラルド、そしてStuffは、AIを使って動画や画像を作成・生成しておらず、もし生成していたとしても、それを公表すると述べています。」
ビクトリア大学AI上級講師のアンドリュー・レンセン氏は、ニュースを装ったAI生成コンテンツの拡散が加速しており、検知が困難になっていると述べた。
「これは明ら かに新たな問題であり、ますます悪化しています。」
レンセン氏によると、多くのページは実際のニュース記事に基づいているものの、AIによってコンテンツが自動的にスクレイピングされ、書き換えられ、再公開されたため、不正確な情報が含まれることが多かったという。システムです。
「根底にあるストーリーは真実かもしれないが、詳細は正確ではない可能性がある」と彼は述べた。
こうしたコンテンツを生成するページは「ほぼ常に完全に自動化されている」と彼は述べた。スクリプト化されたワークフローを用いて、正規のニュースソースを監視し、そのコンテンツをChatGPTのような大規模言語モデルに入力し、事前に設定されたプロンプトに従って書き換える。
その後、テキストに付随する画像や動画が自動的に生成され（既存の画像をベースにする場合もある）、ソーシャルメディアに投稿される。
正規メディアへの信頼を損なう偽ページ
ミリラハティ氏は、多くの視聴者がプロの報道機関とそれを模倣したソーシャルメディアページを区別するのに苦労していることが問題だと指摘した。
この混乱は、特に偽ページが類似したブランドや名前を採用している場合、正規メディアへの信頼を損なう恐れがあると彼女は述べた。
「視聴者は、『メディアは偽の写真を流しているだけだ』と考えてしまうかもしれないが、このページがどのニュースルームにも関連していないことに気付いていない」と彼女は述べた。
両研究者は、AI生成コンテンツの量の増加について警告した。評判の良い報道機関でさえ、信頼を損なうリスクがある。特に、AUTの最新 の「ニュースへの信頼」調査によると、ニュージーランド人の32%しかニュースを信頼していない現状ではなおさらだ。
「人々は『ソーシャルメディアで起きているのに、1NewsやThe Heraldの報道をなぜ信頼する必要があるのか？』と考えるかもしれない」とレンセン氏は述べた。
技術が進化し、AI生成画像がより説得力を持つようになるにつれて、視覚的な手がかりは信頼できなくなり、情報源の検証が騙されないための主な防御策になるだろうと彼は付け加えた。
「それはラジオ・ニュージーランドなのか、1Newsなのか、それとも他にどこにも参照されていない、少し奇妙な名前のページなのか？」と彼は言った。
「自分で確認する必要がある」ファクトチェックだ」
レンセン氏は、現時点では、制服の不一致、ニュージーランドの基準に合わない装備、画像に埋め込まれた歪んだ意味不明なテキストなど、矛盾点が手がかりとなる可能性があると述べた。
ミリラティ氏は、今回の出来事は、報道機関がAIをジャーナリズムの支援にどのように活用しているかを明確にすることで、信頼を築く機会になったと述べた。
「調査、大規模な文書の要約、テキストの書き起こしなどにAIを活用しているかどうかを、読者に明確に伝えるべきです」と彼女は述べた。
「読者に伝えれば伝えるほど、信頼関係は深まります」
Facebookを所有するMetaは、1Newsに対し、これらのページがポリシーに違反しているかどうか、また違反した場合にどのような強制措置を講じるか（もしあれば）について、締め切りまでに声明を出さなかった。
最新情報：月曜日の午後までに、NZ News HubはFacebookから消えた。アカウントが自ら削除したのか、Metaが措置を講じたのかは不明だ。