自然災害の際の出来事を追跡するのは、疑わしい動機を持つ人々が人工知能によって生成されたセンセーショナルな画像をソーシャルメディアに氾濫させ始める前でも十分に困難でした。危機においては、公務員、救急隊員、危険にさらされている人々は皆、信頼できる情報を必要とします。ハリケーン・ヘレンの余波は、テクノロジーによって他の人々とつながる能力が理論的には向上したとしても、地上で何が起こっているかに対する私たちの可視性は低下している可能性があることを示しました。
先週末から、ヘレンの高潮、風、雨により、南東部全体に500マイルの破壊の道が作られました。多くの人々が驚いたことに、この嵐は内陸部で壊滅的な洪水を引き起こした。その中には、これまで「気候の天 国」と頻繁に呼ばれてきたノースカロライナ州アッシュビルとその周辺も含まれていた。多くのユーザーがアッシュビル周辺のどこかで撮影されたと推測した写真が、ソーシャルメディアで急速に広がり始めた。その中には、水に囲まれた建物の屋上に立つペットの写真もあった。別の画像では、男性が洪水の中を歩いて犬を救出しているところが写っていた。しかし、詳しく調べた報道機関は、男性には6本の指と3つの鼻孔があることを指摘した。これは、この画像がAIの産物であり、AIは特定の詳細を頻繁に間違えるという兆候だ。
大災害の際には、根拠のない噂の拡散が常に問題となっている。災害では停電や交通障害が発生し、ほとんどの人が日常的に頼りにしている通信手段が妨げられるのが一般的だ。ほとんどの緊急管理機関は、最も助けが必要な場所を判断するために、地元メディアや地元住民の投稿などの公共の情報源から情報を収集している。システム内のノイズは、対応を妨げている。
過去の危機では、あらゆるレベルの政府の緊急管理者が、現地での出来事に関する事実情報を地元メディアに頼ってきた。しかし、地方ニュース業界の衰退（新聞記者の数は2005年以来3分の2減少し、地方テレビ局は深刻な財政的圧力に直面している）により、 信頼できる報道の供給が減少している。
かつてTwitterとして知られていたソーシャルメディアプラットフォームは、一時期、相殺するメリットを提供していた。情報は瞬時に移動され、認証されたアカウントに事前に青い小切手を発行することで、プラットフォームはユーザーに信頼できるコメンテーターとランダムなインターネットの噂話者を区別する方法を提供した。しかし、現在の所有者であるイーロン・マスクの下で、Xと改名されたこのプラットフォームは、アルゴリズム、アカウント認証システム、コンテンツモデレーションのアプローチを変更、危機的状況におけるプラットフォームの信頼性を低下させています。
ヘレンは、その点を証明しているようでした。Xは、被災したコミュニティがブルドーザーで破壊され、避難民が家を奪われ、さらには闇の利害関係者が天候をコントロールして一部の地域を危険にさらしているとの主張で溢れていました。マサチューセッツ海洋大学の緊急管理教授で、災害学：気候危機の最前線からの報告の著者でもあるサマンサ・モンタノ氏は、X の投稿で、ヘレンは「Twitter の最後の災害」と宣言しました。
これは AI にとって初の大災害でもありました。X、Facebook、その他のプラットフォームで拡散した壊滅的な被害の偽画像により、何が起こっているのか不確実性が増しました。これらの画像を拡散したユーザーの中には、資金集めをしたり、お気に入りのプロジェクトのために無防備な人々の注 目を集めようとしていた人もいたようです。政治的な動機を持つユーザーもいました。ジョー・バイデンとカマラ・ハリスがヘレンの被害者を見捨てたという主張を説明するために、右翼のインフルエンサーは、濡れた子犬を抱いて泣いている子供の AI 生成画像を共有しました。もう1つの偽のバイラル画像には、ドナルド・トランプが洪水の中を歩いているが写っていた。
偽情報（迅速で信頼性の低い）は、停電、携帯電話の電波状況の悪さ、交通路の破壊によって悪化した空白を埋め、その後、従来のメディアによって打ち消されなければならなかった。地元の印刷、テレビ、ラジオのニュースルームは、ヘレンとその余波を報道するために英雄的な努力を行った。しかし、彼らもまた、地元以外の人々が全国的なプラットフォームで広める噂を暴くためにエネルギーの一部を費やすことを余儀なくされている。
残念ながら、現在進行している情報危機は悪化する可能性が高い。気候変動により気象災害が頻繁に発生し、その多くが予期せぬ場所で発生するようになると、皮肉屋のプロパガンダ担当者が悪さを働く機会が増えることになる。優れた情報源は、監視すべき気象災害の影響を受けやすい。これは地元メディアだけに当てはまるわけではない。皮肉なことに、ヘレンの破壊の経路には、異常気象を含む気候データを追跡する米国海洋大気庁の国立環境情報セン ターのアッシュビル本部も含まれていた。
さらなる災害が私たちを待ち受けています。信頼できる通信を、防波堤や竜巻シェルターと何ら変わらない安全対策として捉える必要があります。
時間の経過とともに、技術の進歩により、気象状況のより正確な監視が可能になるはずです。しかし、私たちのより広範な災害対応システムは、政府関係者、救急隊員、市民の間のコミュニケーションと協力に依存しているため、崩壊しつつあり、その構築時に前提とされていたいくつかの仮定はもはや当てはまりません。当局は地元のメディアを通じてすべての人に連絡を取ることはできません。災害時に撮影されたとされる写真や動画は決定的な証拠にはなりません。故意に誤情報を広める人の数は少なくなく、そうすることはますます容易になっています。政府関係者は、国民とのコミュニケーションにおいて、こうした制約を念頭に置く必要があります。FEMA は適応しており、現在では 噂を払拭する 専用の Web ページがあります。
しかし、負担は一般市民にもかかっています。緊急管理者は、人々に 72 時間分の食料や水を備蓄するよう定期的に呼びかけています。しかし、アメリカ人も同様に注意して災害関連のメディアの摂取を計画する必要があります。つまり、既知の情報源のみに従い、加工された写真や動画の見分け方を学び、未検証の主張を増幅させる危険性を理解する必要があります。危機の瞬間には、コミュニティ は困っている人々を助けることに集中する必要があります。私たち全員ができる最低限のことは、騒ぎを増やさないようにすることです。