レポート 6823

カトリックの司祭でポッドキャスターでもあるマイク・シュミッツ神父は、11月に120万人を超えるYouTube登録者を抱える信徒たちに向けて、異例の説教を行った。シュミッツ神父は、「彼の口から出てくる言葉は必ずしも信頼できるわけではない。なぜなら、時にはそれが本当の彼の言葉、あるいは彼の口ではないからだ」と述べた。シュミッツ神父は、AIが生成したなりすまし詐欺の標的になっていた。

「あなたは悪魔のような人間に監視されています」と、ある動画の中で偽のシュミッツ神父が言った。本物のシュミッツ神父は、牧師服の上にLLビーンのジャケットを着て、公共広告の中でその動画を例として取り上げた。 「祈りを送る枠がもうなくなりつつあるので、急いで行動してください」と、背後に砂時計を背負ったもう一人の偽シュミッツは言った。「次の祈りの旅は4ヶ月後です」。偽シュミッツは、視聴者にリンクをクリックして手遅れになる前に祝福を受けるよう促しながら、ほんの少しロボットのような口調で呼びかけた。

「彼らを見て、『そんなの馬鹿げている、私はそんなことは絶対に言わない』と言うことはできます」と、ミネソタ州ダルース在住の本物のシュミッツは呼びかけ動画で述べた。「でも、人々は必ずしも見分けがつかないんです。それが問題なんです。本当に大きな問題なんです」

シュミッツの本物の動画へのフォロワーからの上位コメントには、ローマ法王を含む他の著名なカトリック信者がAI動画でなりすましているのを見たことがあるという意見がいくつかあった。 SocialProof SecurityのCEOでサイバーセキュリティ専門家のレイチェル・トバック氏によると、牧師がAI詐欺やその他の欺瞞メディアの格好の標的になっていることが原因だという。

「TikTokやReelsを使っているなら、フォロワーはあなたの「おすすめ」ページを目にしているはずです」とトバック氏は語る。「これは、牧師のように見える人物で、聖職者衣装を身にまとい、説教壇や舞台など、何と呼ぼうと、そこに立って、信徒たちに熱心に語りかけているように見える人物です。」

アラバマ州のバーミンガム、ニューヨーク州のフリーポート、フロリダ州のフォートローダーデールの牧師や聖職者たちは、DM、電話、ディープフェイクの形で自分たちになりすますAI詐欺についてフォロワーに警告した。オザーク高原の牧師アラン・ボーシャン氏は、自身のFacebookアカウントがハッキングされ、おそらくAIが生成したと思われる偽の仮想通貨取引証明書を投稿したと述べた。その証明書にはボーシャン氏の名前と、信徒たちに自分への参加を促すキャプションが添えられていた。フィリピンの巨大教会も、牧師たちを起用したディープフェイク動画の報告を受けている。ネブラスカ州のある福音派教会がFacebookでAI詐欺師に関する警告を発したところ、コメント欄に教会員の一人が、牧師からのものだとされるメッセージのスクリーンショットを投稿しました。

オンラインで多くのフォロワーを獲得している牧師や聖職者の多くは、実際には寄付を募ったり、物品を販売したりしていることが多く、ただ、その内容はAIのなりすましが行うものとは異なっているという現状は、事態を悪化させています。ソーシャルメディアの力を借りて、宗教指導者たちは地域社会をはるかに超えて信者にリーチできるようになりましたが、彼らの肖像や声を扱ったコンテンツの急増は、生成AIツールを駆使する詐欺師にとって絶好の機会にもなっています。

「牧師や理事、毎週ライブ配信に出演している人を装った電話がかかってきて、その声をサンプリングしてAIに取り込むことができます」と、フロリダに拠点を置く教会管理ソフトウェア会社ChurchTracの社員は、教会を狙ったAI詐欺の増加について警告するYouTube動画の中で述べています。「詐欺師はその声を使って教会に電話をかけ、『この口座に資金を振り込んでいただけますか？』と尋ねます」

WIREDがTikTokでシュミッツ神父を検索したところ、シュミッツ神父が動画で示した偽アカウントのうち3つが現在もアクティブであることがわかった。ただし、投稿された動画がAIによるものなのか、シュミッツ神父の実際のソーシャルメディアプロフィールから抜粋した動画なのかはすぐには判明しなかった。TikTokには、シュミッツ神父を装ったアカウントが20以上存在するが、シュミッツ神父自身はTikTok上で認証済みのアカウントを持っていない。シュミッツ氏はコメント要請に応じなかったが、TikTokはなりすまし禁止規定を理由に、シュミッツ氏の偽アカウントをWIREDが指摘した後、偽アカウントを削除した。

AIが牧師を模倣する例は詐欺だけではない。トバク氏は、特定の人物をモデルにしているようには見えない牧師が登場する短編AI動画が話題になっているのを目にしたことがある。しかし、その説教は予想外の内容で、あっという間に再生回数を伸ばしている。彼女がWIREDに共有したあるTikTokでは、牧師が説教壇の両側を両手で掴み、群衆に向かって激怒して叫んでいる。「億万長者こそが、我々が恐れるべき唯一の少数派だ！彼らにはこの国を破壊する力がある！あなたたちの保護など必要ない！あなたたちの責任を問う必要がある！」

この動画を投稿したTikTokアカウント「Guided in Grace」のプロフィールには、「AIを使ってパラレルユニバースを表現」とある。しかし、動画のキャプションにはAI生成であることが示されていない。「一方、今朝、保守的な祖母の教会では…」とある。コメントのほとんどは、まるで現実の動画であるかのように扱われている。「クリスチャンが本物のクリスチャンでいることに衝撃を受けた」というコメントや、「おお、彼らはイエスに仕えている。まさにオリジナル風味」というコメントもある。

「誰がこれを作ったのか、彼らの目的が何なのかは分かりませんが、人々の考え方に影響を与えようとしているように思えます」とトバック氏は述べた。 AI牧師のTikTokアカウントに投稿された動画はすべて10月に投稿されたもので、Soraが作成したインフルエンサーのジェイク・ポールの動画が10億回以上の再生回数を獲得していた時期と同時期だった。しかし、拡散した偽のポール動画は、彼の普段の振る舞いを知っている人ならすぐに見分けがつくのに対し、特徴のない偽の牧師は、疑惑を回避し、その過程で異なる影響力を獲得するのが容易だ。

「例えば教会で高い地位にある人が特定の信念を唱えているのを見ると、私たちはその発言に意味や価値、そして力を見出しますが、それはインフルエンサーとは異なります」とトバック氏は述べた。彼女はまた、AI牧師のようなアカウントはTikTokのクリエイターファンドを通じて収益化できる可能性があると指摘した。 「すぐに拡散され、多くの視聴回数を獲得できれば、より多くの報酬が支払われます。」

TikTokクリエイターがAIメディアに手を出そうとするのと同じ動機が、教会にも同じようにAIメディアに手を出させているのかもしれない。9月には、テキサス州ダラスの教会が、殺害された保守活動家チャーリー・カークが死後の世界からキリストについて語るAI生成動画を公開した。教会指導者によるAI活用を推進する企業による2025年のレポートによると、調査対象となった牧師の大多数は、説教の準備にChatGPTやGrammarlyなどのツールをすでに活用していると回答しています。また、神やイエス、そしてあらゆる宗教的指導者とチャットできると謳うチャットボットも急速に普及しつつあります。

一部の宗教指導者は宗教的AIに急速に好意的な姿勢を見せているものの、Tobac氏やAI教育非営利団体CivAIの共同設立者であるLucas Hansen氏といった業界の監視団体は、この技術のユーザーがその結果として深刻な精神的健康への影響を経験するのではないかと懸念を抱き続けている。10月には、OpenAI、毎週数十万人のChatGPTユーザーがチャットボットとの会話の中で精神病やその他の精神的健康問題の兆候を示す可能性があると報告した。こうした妄想の中には、宗教的な性質を持つものもある。

「神がAIをコミュニケーションのツールとして使っていると考える人が、最終的にかなりの数に上るようになるかもしれません。すでに少しはそうした事例が見られると思います」とHansen氏は言う。「AIはユーザーが真実であってほしいと願っていることを理解し、それを強化しようとします。こうした問題に少しでもなりやすい人は、その信念が強化されるのです。」

同意なしにAIに成りすまされた経験のある司祭や牧師は、AI技術を受け入れたいという気持ちが薄れているかもしれない。シュミッツ神父もその一人だ。視聴者に自身のディープフェイクについて警告した後、シュミッツ神父は『ターミネーター』シリーズを見て育った頃を懐かしんだ。そこでAIが悪役スカイネットとして描かれていたことを。しかし、これまでのAIの進歩が彼に思い起こさせるのは、むしろ『ウォーリー』でリクライニングチェアに座り、宙に浮いたスクリーンでうろつく無気力な人間たちだ。

「私たちは『いや、テクノロジーを拡張すれば、もっと遠くまで行けるし、もっと速く走れるし、素晴らしいことができる』と思っていたでしょう」とシュミッツ神父は言う。「でも、実際には素晴らしいことをしていないのかもしれません。人間性を拡張することで、物事のやり方を分からなくなってしまうのかもしれません」