AIインシデントデータベース

にようこそ

マーク・A・ヤングの娘が月曜日に彼の自宅に電話をかけてきた。

若い女性のパニックに陥った声には、恐怖と苦痛がにじみ出ていた。

娘は父親を必要としていた。「泣きじゃくって、取り乱していました」とヤングは語る。「『お父さん、事故に遭って大変なことになったの。助けて』って言われたんです」。コンサートのためにスポケーンからシアトルに来ていたことを知っていたヤングは、聞き覚えのある声に、危険対応に長年携わってきた経験から、すぐに警戒心を抱いた。すると、電話に出た男性の声が救急隊員だと名乗り、

退職した警察官であるヤングに、24歳の娘が交通事故に遭ったと告げた。そして、別の男性の声が会話を引き継いだ。その声は今もヤングの脳裏に焼き付いている。スコットランド訛りのその男は、ヤングが運転手の父親であることを確認するために質問をしてきた。

「すると、彼の口調が変わりました」とヤングは言う。「まず、彼は自分を麻薬の売人だと名乗ったんです」。名前を明かさなかった男はヤング氏に、娘が麻薬取引を中断させる交通事故に巻き込まれたと説明した。娘は「見てはいけないもの」を見てしまったのだという。「そのため、娘を人質に取り、どうするか考えているところだと言われました」とヤング氏は語った。「殺すか、売春婦にするか、海外の売春組織に売り飛ばすか、どちらかだと言われました」。会話中、男の声は何度かヤング氏に娘と話す機会を与えた。家族の要請により、スポークスマン・レビュー紙は娘の身元を公表しないことに同意した。「愛する人が電話越しに苦しんでいるのに、何もできないというのは、何物にも代えがたい苦しみです」とヤング氏は語った。「自分はかなり強い人間だと思っていましたが、あれで心が折れそうになりました」。しかし、

その声は娘の声ではなかった。偽物、AIが生成した声だったのだ。

捜査当局は後に、犯人たちは娘の声の録音と、彼女の話し方を非常に正確に模倣するプログラムを使用し、ヤング氏を騙して、ホイットマン郡の小さな町ガーフィールドにある自宅を離れさせ、複数の銀行を訪れ、パルース地方やアイダホ州中を車で走り回らせ、娘の命を救うためのお金を手に入れさせたのだと推測した。連邦取引委員会（FTC）は

2023年には既に消費者に警告を発していた（https://consumer.ftc.gov/consumer-alerts/2023/03/scammers-use-ai-enhance-their-family-emergency-schemes）

AIを使って家族の声を模倣する、この新たなタイプの詐欺について警告していた。 「詐欺師は、お金を取り戻すのが困難な方法で支払いや送金を要求します。電話をかけてきた相手が、送金、仮想通貨の送金、ギフトカードの購入、カード番号と暗証番号の教え方などを指示してきたら、詐欺の兆候かもしれません」と、FTC（連邦取引委員会）のプレスリリースは述べています。ヤングさんの場合、

1万3000ドルを送金し、さらに数千ドルを送金しようとしていた矢先、30時間に及ぶ

苦難はプルマンの銀行支店でようやく終わりを迎えました。長年銀行に勤める銀行員の冷静な対応と、プルマン警察の迅速な対応により、

ヤングさんの娘に連絡が取れ、無事にスポケーンの自宅にいることが確認されました。

「ショックで倒れそうになりました」と、真相を知ったヤングさんは涙ながらに語りました。「本当にホッとしました。気持ちが落ち着くまで何日もかかりました。」

カリフォルニア州サンタローザで26年間警察官を務め、ベトナム戦争では海兵隊員として志願し、

腕を撃たれた経験を持つヤング氏でさえ、この苦難の深刻さを言葉で言い表すことはできないと語った。「まるで毎分毎秒が最後の日であるかのように生きている」と、ヤング氏はAIによる恐喝について語った。「自分に何ができるのか、必死に考えを巡らせる。これほど無力感を味わったことはなかったので、その感覚を理解するのは難しい」。

恐怖を追い求める

電話がかかってきたのは

3月23日（月）。最初の会話で娘が危険にさらされていることを確信したヤング氏は、スコットランド訛りの男の要求に応じ始めた。男はまず、娘が介入した麻薬取引で失った数千ドルを補填するために送金する必要があるとヤング氏に説明した。

警察官になる前に6年間ジャーナリストとして働き、

（著書6冊）（https://www.independentauthornetwork.com/mark-young.html）

娘を助けることに全力を注いだと語るヤング氏は、「娘と話したことに疑いはなく、娘は彼の拘束下にあると確信していました」と述べた。「その後30時間、できる限りの協力をしました」。その声はヤング氏に電話を切らないように命じ、助けを求めたり妻に連絡したりすることを阻んだ。「『お前を失ったら、娘に報復する』と言われました。26年間の警察官としての訓練と海兵隊での経験から、感情をコントロールし、被害者として振る舞う方法を知っていました」とヤング氏は語った。 「でも、簡単じゃなかったんです。ただ彼の言う通りにしていたら、彼が指示した2つの銀行のうちどちらかに行くように言われました。」ヤングさんはまずガーフィールドの支店に行き、5,000ドルを引き出しました。電話の相手は、プルマンのウォルマートに行き、その半額をメキシコの誰かに送金するように指示しました。次に、モスクワのウォルマートでも同じことをするように指示されました。その後、プルマンのWaFd（旧ワシントン・フェデラル）銀行の支店に行き、さらに5,000ドルを引き出し、ルイストンまで車で行き、そこの2つの異なる店舗からそれぞれ2,500ドルずつ送金しました。「ずっと電話で彼と話していました。移動中は、自分がどこにいるのか彼に分かるように、道路のマイル標識を全部読み上げなければなりませんでした」とヤングさんは語りました。

電話の向こうの男は、娘の声真似をする男とは違い、本物だと確信していました。「彼は娘とあと数回話させてくれました。」その間…彼は私からもっと情報を聞き出そうとしている」と電話の主は言った。75歳のヤングは退職したのか、どんな仕事をしていたのかと尋ねられた。娘が誘拐犯に自分の過去を話してしまったのではないかと恐れたヤングは、娘を守るために真実を話したと答えた。電話の主はその後、地元の警察が状況を監視しているかもしれないと恐れているため、ヤングにボイシに行くように指示した。ヤングは指示に従い、南へ何時間も車を走らせ、ボイシのホテルに部屋を取った。到着すると、こっそり部屋を抜け出し、ホテルのロビーに駆け下りてホテルの電話を使って妻に電話をかけた。ケイティ・ヤングは仕事でシカゴにいた。

マーク・ヤングが電話をかけた時、妻の電話は電源が切れていて留守番電話につながった。しかし、妻の留守番電話は満杯だったため、メッセージを残すことができなかった。「残念だった」とヤングは言った。部屋に戻ると、ちょうどその時、電話の主がヤングの携帯電話に電話をかけてきて、安否を確認した。

翌日、ヤングはボイシの店からさらに2,500ドルを送金した。しかし、彼が再び電話をかけたところ、ATMカードがブロックされていることが判明しました。彼はその声に、プルマンの銀行支店に戻ればATMの問題を解決できると伝えました。北へ向かう途中、ヤングはアイダホ州の山中で携帯電話の電波が途切れる場所を何度か通過しました。

そのうちの1回、彼は車を路肩に停め、妻の電話番号を書き留め、状況を紙に書き記しました。万が一事態が悪化した場合、FBIが妻に状況を伝えるためです。

彼は3月24日火曜日の午後、ようやくプルマンに戻りました。「彼は私が銀行に行く間、私を監視していたと思わせようとしたのです」とヤングは言いました。ヤングは

プルマンのイースト・メインストリート405番地にある支店に入り、見覚えのある人物を見かけました。

――支店副支店長のアレックス・ナバロです。ヤングはナバロにメモを渡し、それを指さして

銀行のトイレに入りました。

銀行での冒険

ナバロはメモを受け取り、すぐに何か別のことが起こっていると感じたと言います。 「彼は何か目的を持って入ってきました。メモを持っていました。彼がメモを置いて指差した時、何かおかしいと思いました」とナバロは語った。「最初に頭に浮かんだのは、『こいつは俺を強盗しようとしている』ということでした。それから彼はトイレに行きました。おかしいなと思いました。それからメモを読みました。

まさかこんな内容だとは思いませんでした」。ヤングは、娘の自由を買うには1万7000ドルが必要だと言われたので、実際に引き出すつもりだったと語った。危険を感じ、ヤングの身振りから犯人が電話で盗聴していることに気づいたナバロは、冷静に現金を引き出す手順を説明し始めた。

ナバロはヤングに、ATM会社に電話してカードを解除してもらう必要があると伝えた。「時間を稼いでいたんです」とナバロは言った。「カード部門に電話して話していましたが、実際にはチームメイトに『大変な事態が起きていて、裏で誰かに手伝ってほしい』とメールを送っていました」。ナバロは

別の言い訳を考え出し、現金を取りに裏に行かなければならないと言った。彼はこの策略を使って、長年勤めている窓口係と会った。「『恐喝誘拐の可能性がある』と彼女に言ったんだ」とナバロは語る。彼女は建物の別の場所に行き、

1ブロック先にあるプルマン警察に通報した。その間、ヤングはナバロに、お金を受け取るつもりかと尋ねるメモを渡した。ナバロは受け取らないと答え、警察に通報したことを示唆した。「彼は本当にパニック状態だった」とナバロは言う。「額を押さえていた。明らかに動揺していた。彼は別のメモで『奴らが俺たちを監視している。建物の外から監視していると言っていた』と返信してきた」。しかし、ナバロは警察が到着するまで時間を稼ぐ必要があった。彼はゆっくりと数えることでそれを解決した。「『1万7000ドルを数え直さなければならない』と言ったんだ。それで、偽の取引を行った」とナバロは語った。盗聴されている声に気を取られ、ナバロは100ドルずつお金を数えるふりをした。実際にはお金は存在しなかったため、ナバロは紙を机の上に置く仕草をして、まるで札束を積み上げているように見せかけた。数えるふりをして時間を稼ごうとしていたナバロの途中で、シェーン・エマーソン巡査が支店に入ってきた。ナバロとヤングは、犯人が盗聴していることをエマーソン巡査に念入りに伝え、さらに銀行を監視している者がいるかもしれないと警告するメモをエマーソン巡査に渡した。エマーソン巡査は警察の報告書によると、応援の警官を要請し、支店の駐車場やその他の場所を捜索して共謀者を見つけようとした。その後、ヤングのメモ（

妻の電話番号が書かれたもの）

を受け取り、ケイティ・ヤングに電話をかける前に銀行を出た。「私は彼女に何が起こっているのかを伝え、彼女は（娘と）電話で話していると言いました。彼女は電話を切り替えました」とエマーソン巡査は記している。娘は「スポケーンの自宅にいて、全く安全だ」と言ったという。エマーソンは支店に戻り、マーク・ヤングに家族の無事を知らせた。「ヤングはショックを受け、泣き出した」とエマーソンは記している。「娘が無事だと知るまで、自分がどれほど感情を抑え込んでいたかに気づかなかった」とヤングは語った。ヤングはその後、エマーソンとナバロに手紙を送り、生死に関わる状況だったと確信していた事態を、彼らが適切に対処し、収拾してくれたことに感謝の意を伝えた。ナバロは35年間銀行員として多くの経験をしてきたが、あの日の午後のような出来事は初めてだと語った。「AIが生成した音声が人間の声を模倣し、本人が聞き分けられなかったという、このような事態に巻き込まれた人を聞いたのは初めてだ」とナバロは述べた。

その後の展開

ヤングはプルマン警察に連絡し、その後スポケーンへ行きFBI捜査官と話をしたが、複数の店舗から送金した資金は今のところ回収できていない。ケイティ・ヤングさんは、夫がこの辛い経験から立ち直るのに長い時間がかかったと語った。彼女はシカゴのホテルのロビーにいた時にエマーソン巡査から電話を受けたという。「旅行中に警察から電話がかかってくるなんて、本当に嫌ですよね。いい知らせじゃないですから」と彼女は言った。「すぐに警戒態勢に入りました」。娘が無事であることをエマーソン巡査に伝えるため、ケイティ・ヤングさんはスポケーンへ飛び、そこからガーフィールドまで車で向かった。「翌日には家に帰っていました。娘も車で来てくれました」と彼女は言った。「みんな一緒にいられて、幸せでした」。彼女は強調した。

家族が詐欺の被害に遭ったとは考えていないと。

「これは明らかに恐喝です。全く別物です」と彼女は言った。「そして

許しがたいことです。どうしてこんなことができるのか、想像もできません」。恐喝犯がどうやって娘の声を知ったのか、未だに分かっていない。ケイティとマーク・ヤング夫妻は、このような緊急事態に備えて、家族だけで使える合言葉を決めておくよう、親たちに強く訴えた。

それは、同じような状況で彼らが想像できる唯一の防御策だった。「彼らは今や声をとても巧妙に偽造できる」とマーク・ヤングは娘の声について語った。「娘の声ではないとは全く分からなかった。私には娘の声に聞こえた。娘を落ち着かせようとしながら、同時にこの男を落ち着かせようとしていた」。30時間に及ぶ苦難の間、スコットランド訛りの男は何度も電話をかけてきたという。その多くは、オレゴン州、ワシントン州、アイダホ州の市外局番を持つ様々な電話番号からかかってきた。娘の無事を知り、感情が高ぶった後、マーク・ヤングはプルマン支店を後にした。車に戻った時、その声が最後にもう一度電話をかけてきた。「犯人が電話に出て、『金は手に入れたか？』と言った。私は『いいえ。娘は無事です』と答えた」とヤングは語った。「口にするのもはばかられるような言葉をいくつか言ってやった」。その声は、自分は銃を持っていて、ヤングが愛する人全員を殺せると言った。「私は彼に『どうか私を探しに来てください』と言い、そして私が何をするかを伝えました」とヤングは語った。

「

今年初め、オンラインの影響力工作や外国のプロパガンダを追跡しているカナダの研究者たちは、奇妙な現象に遭遇した。ウクライナ侵攻に関する偽情報を拡散していることで知られるロシアのウェブサイトやソーシャルメディアアカウントの活動を、人工知能（AI）を用いて分析していたところ、研究者たちは、これらのグループからこれまで以上に注目を集めている新たなテーマに気づいた。それは、アルバータ州に関するものだった。

12月下旬から4月下旬にかけて、アルバータ州の分離主義や、同州が米国の州になるという主張、カナダが国家として崩壊するという主張など、関連する様々なテーマへの言及が、既知のロシアのコンテンツファームから急増した。この4ヶ月間、プラウダ・ネットワークが制作・配信したアルバータ州に関する記事は67本に上り、他のカナダ関連トピックの約5倍に達した。

研究者らは、アルバータ州での議論を煽り、国益を損なう目的で作成されたこうしたコンテンツは、オンラインで拡散され、同じ考えを持つカナダ人の間で支持を集め、共有や再投稿を通じて地域社会の議論に溶け込むように設計されていると述べている。「地域社会の不満が外国の戦略的言説と混ざり合う、いわば洗浄効果を生み出している」という。

今週、グローバル民主主義レジリエンスセンターが発表する研究の中で、レジャイナ大学人工知能・データ・紛争センターの共同ディレクターであるブライアン・マックイン氏と、オンライン影響力工作を研究する組織DisinfoWatchのディレクターであるマーカス・コルガ氏は、アルバータ州が提案している独立住民投票が、不和を煽りカナダの国益を損なうことを目的とする外国勢力によって標的にされていると述べている。

「私たちはまるで夢遊病者のようにこの住民投票に突入しており、人々が想像する以上に多くの標的にされている」と、マックイン博士はインタビューで述べた。

報告書によると、問題となっている活動は、ロシアや中国などの国々が州内の不和を煽るために行っている秘密裏の工作活動から、トランプ政権によるアルバータ州分離主義者を後押しする公の発言や行動（ワシントンで彼らの代表者と会談するなど）まで多岐にわたる。3つ目のカテゴリーは、営利目的でAI生成のYouTube動画を制作するオンラインコンテンツファームであり、分断を深めることを目的とした虚偽の情報や物語で議論を煽り、混乱させている。

「外国の敵対勢力は、アルバータ州分離主義をめぐる議論を利用して、社会の結束を弱め、国内の分断を深め、民主主義制度への信頼を損ない、カナダへの投資家の信頼を低下させる政治的不安定感を増幅させている」と、報告書の著者らは述べている。この報告書は水曜日にトロントで開催される会議で発表される予定で、事前にグローブ・アンド・メール紙に提供された。

「カナダの認知主権、すなわちカナダ国民が外国からの強制や操作を受けることなく自由に政治的決定を下す能力は、単に脅かされているだけでなく、カナダの民主主義の未来を形作ろうとする外国勢力によって積極的に侵害されている。」

10月19日に予定されているアルバータ州の住民投票（実施されれば）は、この分野の研究者たちを不安にさせている。なぜなら、悪意ある勢力が結果に影響を与えたり、カナダの統一を損なったりしようとする温床となり得ると考えられているからだ。マックイン博士とコルガ氏は、すでにそのような事態が起きていると述べている。彼らによると、未解決の疑問は、これらの活動が現在どのような影響を与えているのか、あるいは今後数ヶ月でどのような影響を与える可能性があるのか、そしてその多くが隠蔽されていることを考えると、どの程度の規模で行われているのか、という点だ。

こうした事例は、今週の報告書に限ったことではない。

昨年秋、マサチューセッツ州に拠点を置くサイバーセキュリティ企業Recorded Futureの調査部門であるInsikt Groupの研究者たちは、奇妙なものを発見した。西側諸国の分断を煽ることを目的としたオンライン偽情報を拡散していると非難されている、CopyCop（別名Storm-1516）と呼ばれるロシアの秘密ネットワークを調査していた際、Insiktのアナリストたちは、アルバータ州に関する非常に具体的なウェブサイトを発見した。

表面的には、albertaseparatist.comとその関連InstagramおよびYouTubeアカウントは、独立住民投票案への支持を動員しようとする、不満を抱えたアルバータ州民による草の根運動のように見えた。

しかし、Insiktは、このサイトはロシアのインターネット・リサーチ・エージェンシー（IRA）の分派組織であるStorm-1516が運営する数百ものサイトの一つだと主張している。IRAはサンクトペテルブルクに拠点を置くサイバー戦略組織で、米国当局は2016年の大統領選挙への干渉に関与した組織として特定している。

公開されている記録によると、このウェブサイトはブリティッシュコロンビア州デルタ在住のジェームズ・ウィリアムズという人物名で登録されている。しかし、The Globe紙の調査によると、記載されている住所はデルタには存在せず、電話番号も間違っている。

Insiktは9月に発表したロシアに関する脅威分析の中で、ロシアの組織が用いる戦術、技術、手順の分析結果から、このウェブサイトはCopyCopと関連していると述べている。

脅威分析によると、この作戦は「カナダのアルバータ州で高まる独立支持の機運を利用し、独立住民投票を求める声が高まる中で、カナダ国内の政治的分極化を悪化させようとしていることはほぼ確実」だという。Insiktはコメントの要請に応じなかった。

CipherとAI

カナダの研究者らが今年追跡調査した疑わしい影響力工作は、アルバータ大学のコンピュータ科学者マシュー・テイラー氏とマックイン博士が開発した人工知能システム「Cipher」を用いて明らかになった。

Cipherはオンラインコンテンツの収集と分類を自動化し、展開中の情報を特定することで、潜在的な偽情報工作をより迅速に特定することを可能にする。

2023年、カナダの研究者らはCipherを用いて、ロシアによるカナダにおけるウクライナ支援の弱体化工作を調査した。その結果、ロシア軍の侵攻開始前から、ウクライナの腐敗、北大西洋条約機構（NATO）内の不和、そしてオタワのウクライナ支援に対する疑問といった話題がオンライン上で拡散し始め、カナダを標的にしていたことが判明した。

2023年の調査では、現在「X」として知られる、ロシア関連のTwitterアカウント約20万件（うち約90件は親クレムリン派）が、カナダのユーザー向けに特化した情報発信を行い、カナダのソーシャルメディアユーザーの間で「絶大な影響力」を発揮していたことが明らかになった。情報がカナダのオンライン上で拡散されると、その出所はしばしば不明瞭になる。マックイン博士によると、研究者らが外国のプロパガンダと判断した情報を拡散する「エコシステム」の83%は、情報源を区別できない、あるいは情報発信元を気にしないカナダ人によって構成されていたという。

「彼らは非常に大きな影響力をもって環境を形成していた」とマックイン博士は述べた。

2年分のデータに基づいた報告書によると、こうした影響力工作は政治的に無差別であり、カナダの政治スペクトルの両極端を標的にし、どちらも潜在的に有益とみなしていたという。

調査は今年に入っても継続され、アルバータ州関連コンテンツの増加が確認された。研究者らによると、4か月間でアルバータ州分離独立に関する記事が67件あったのに対し、オンタリオ州に関する記事は14件にとどまり、そのうち8件はドナルド・トランプ米大統領がオンタリオ州とミシガン州を結ぶ橋の閉鎖を脅迫したことを強調する内容だったという。

この活動は1月に急増した。これは、アルバータ州分離独立派の指導者らがワシントンでトランプ政権関係者と会談したことを公に発言した時期と重なる。研究者らは、これも外部からの影響の一形態と見ている。

「プラウダ・ネットワークでは、この話題が次々と出てきた」とコルガ氏は語る。「明らかに彼らは情報空間を監視し、そこに火を注ぎ始めたのだ」。

こうした動きが確認されたのは今回が初めてではない。

「2019年にはすでに、ロシア国営メディアのスプートニクが、ウェクジットとして知られる西側諸国の分離独立運動に関心を示していた」と報告書は述べている。 「当時、この運動は国民からの実質的な支持をほとんど得ていなかったため、その正当性が過剰に認識され、運動の主催者を勢いづかせ、モスクワが注目していることを示唆した可能性が高い。」

報告書によると、アルバータ州を標的としたキャンペーンには主に4つのテーマがある。第一に、州内で分離主義感情が高まっているという考えを広めること。第二に、アルバータ州とオタワ間の長年の不満を誇張し、時には歪曲して、地元住民が搾取されており、繁栄への道はアメリカ合衆国への分離独立にあると主張すること。第三に、アルバータ州の分離独立に対する国際社会からの強い支持があるという考えを提示すること。第四に、虚偽や不正確な情報を真実のニュース記事に混ぜ込み、プロパガンダ的な内容に正当性を与えること。

研究者たちはその後、ロシア、アメリカ、その他の国々によるアルバータ州への影響力工作の疑いのある事例を的確に特定できるよう、Cipherというツールを訓練し、住民投票を標的とした偽情報の追跡を開始した。その調査から得られる最初のデータセットは、1～2か月後に発表される予定です。

報告書によると、世論調査に影響を与えるリスクがあるとのことです。

アルバータ州における独立支持率は、過去1年間の世論調査では30％弱でピークに達していますが、分離に伴うコストが相当なものになった場合にも支持するかどうかを問われると、支持率は低下します。報告書は、この高い支持率は「過去の事例から、短期間で劇的な変化が起こり得る範囲内にある」と述べています。

著者らによると、2016年の国民投票の6か月前には、英国におけるブレグジット支持率は40％から47％の間でした。また、1995年のケベック州における分離支持率は、投票日が近づくにつれて39％から50％に急上昇しました。2014年のスコットランド独立運動における支持率も同様に、選挙運動の最終局面で約30％から45％に上昇したと報告書は述べています。

外国からの影響工作は、人々が考えているよりも見抜くのが難しいと、マッククイン博士は述べた。

「巧妙な偽情報は、人々がうなずいてしまうようなものから始まる」と彼は言う。「そうやって、人々は内容をよく確認することもなく、情報を拡散していくのだ。」

1月に検出された疑わしい偽情報に関して、コルガ氏は、懸念事項の一つとして、そのコンテンツが大規模言語モデルと呼ばれるAIシステムの学習に利用され、アルバータ州の分離独立やその他のトピックに関するAI検索に誤情報を注入するために使われていることを挙げた。

「自分たちの立場を支持する情報を大量に流し込むことで、これらのプラットフォームの応答を操作しようとしているのだ」とコルガ氏は述べた。

Cipherソフトウェアが検出対象としているような外国からの影響工作は、多くの場合、不透明で秘密裏に行われるが、中には公然と行われているものもある。コルガ氏とマッククイン博士は、トランプ政権によるここ数ヶ月の発言や行動と、米国のMAGA支持者によるポッドキャストなどのプラットフォームを通じたアルバータ州分離主義運動の煽動は、本質的に類似していると指摘している。

「アルバータ州分離主義運動への米国の関与は隠蔽されたものではなく、公然のものである」と報告書は述べている。

「公然の関与とは、米国政府高官がアルバータ州分離主義指導者と直接会談し、彼らの主張を正当化する声明を公に発表するなど、公式な関与を指す。しかも、米国はカナダ併合への関心を繰り返し表明している大統領によって率いられている」。

研究者らは、特にカナダが貿易協定の交渉を行っている時期に、カナダの国益を不安定化させようとする国々にとって、分離主義をめぐる議論は格好の材料になると述べている。

分離独立に関する住民投票が実施された場合、報告書は投票前および投票後に発生する可能性のある3つの偽情報リスクを指摘している。

提案されている住民投票は、分離独立の試みは条約に違反するとして、先住民団体から法的異議申し立てを受けている。裁判所が住民投票の実施可否を判断し、アルバータ州選挙管理委員会が投票実施を求める請願書に集められた署名の有効性を検証する中、報告書は、住民投票の正当性を標的とした影響力工作が展開され、双方の対立を煽る可能性が高いと指摘している。

「有効な署名が密かに却下された、当局が国民の支持を隠蔽している、あるいは裁判所が住民投票を『取り消した』といった主張がなされる可能性がある。捏造されたスクリーンショット、文書、あるいは声明が不信感を煽るために利用されるかもしれない」と報告書は警告している。

執筆者らは、投票に向けた準備期間も偽情報工作の標的になると予想している。

「有権者の資格、投票集計、非市民の投票、外国からの資金提供、住民投票規則の誤解を招く解釈、そして住民投票によって自動的に独立が実現するという虚偽の主張などが、偽情報工作の焦点となる可能性がある」と執筆者らは述べている。 「分離独立支持者を国家当局による迫害や標的とみなすような言説も存在する可能性があり、外国勢力が介入を正当化する口実となる恐れがある。」

投票後、著者らは「不正行為、ハッキング、文書偽造、外国による承認、連邦政府による妨害行為」といった主張を通じて、投票結果の正当性を否定しようとする動きが見られると予測している。

「差し迫った脅威」

2024年、米国司法省は、ロシアのプロパガンダを秘密裏に拡散し、同年の大統領選挙を含む米国の政治に影響を与えるためにクレムリンの指示で構築されたとされる32のインターネットドメインを押収したと発表した。

司法省は押収発表の中で、「ロシア政府の指示を受けた企業が、米国人を騙してロシアのプロパガンダを無意識のうちに消費させるためのウェブサイトを作成した」と述べた。

捜査の一環として、FBIは影響力工作の手順を詳細に記したロシアの内部文書3件を入手し、これらは証拠として提出された。 「古き良きアメリカ計画」と題された、ロシアの計画文書とされる文書には、オンラインコミュニティを事前に構築し、ターゲットとなるコミュニティで自然にフォロワーを増やしていく間は「休眠状態」に保ち、その後動員する手法が記述されている。

「適切なタイミングで勢いを増したこれらのコミュニティは、極めて重要な州における世論に影響を与える重要な手段となる」と文書は述べており、「ニュース価値のある出来事を装った偽情報」を拡散するとしている。

この事件で証拠として提出された別の文書「米国ソーシャルメディア・インフルエンサー・ネットワーク」には、オンラインでの影響力構築の手法が概説されている。

「各州には、米国の政党Aを積極的に支持し、『地元の活動家コミュニティ』を代表する架空の人物名義で、アクティブなアカウントが維持される。」

「提案されたプロジェクトにおける『ロシアの痕跡』の検出の可能性を排除するため、インフラの多層的な保護が構築される。」 「VPNサービスや米国に設置された物理サーバーなどが含まれるだろう。」

こうした外国による工作活動の高度な可能性に、カナダ政府は懸念を抱いている。

先週、上院国家安全保障・国防・退役軍人問題常任委員会は、「ロシアの偽情報：課題の理解とカナダの対応強化」と題する報告書を発表した。

同報告書は、「委員会は、ロシアの偽情報がカナダの国家安全保障、民主主義制度、そして社会の結束に差し迫った脅威をもたらしていると確信している」と述べている。

「カナダ政府は偽情報対策に取り組んできた。」しかし、ロシアによる偽情報工作の規模は、カナダが現在効果的に対処できる能力を超えている。

上院委員会の報告書はロシアに焦点を当てているが、脅威は複数の国家および独立主体から生じていると、コルガ氏とマッククイン博士は述べている。

「外国の敵対勢力は、アルゴリズムによる高速な動きでこれらの脆弱性を組織的に悪用している一方、カナダの制度的対応は依然として遅く、断片的で、しばしば事後対応に終始している。したがって、監視だけでは不十分である。」報告書の中で著者らは、「カナダは、早期発見、リスク評価、広報、そして制度的対応の間の連携を改善する必要がある」と述べている。

マックイン博士は、住民投票を控えたアルバータ州選挙管理委員会の状況を特に懸念していると述べた。

「彼らは困難な課題を抱えている」とマックイン博士は述べた。「組織能力は比較的限られている」。

アルバータ州選挙管理委員会の広報担当者であるミシェル・ガーニー氏は、同委員会は懸念を抱いており、オンライン上の偽情報による脅威に対処するために変更を加えたと述べた。

ガーニー氏によると、同委員会は「ディープフェイク、誤情報、偽情報、その他国内外のあらゆる形態の悪質なオンライン活動に特化した情報保全ユニット」を設置したという。

「現在、このチームの立ち上げを進めており、業界最先端のデジタルメディア分析、監視、リスニングソフトウェアおよびシステムの利用拡大を進めている」。

これらの変更には、最近可決された、疑わしい偽情報キャンペーンに対処する権限を同委員会に与える法律も含まれる。ディープフェイクとは、本物そっくりに作られた偽の動画のことです。

ガーニー氏は電子メールで、「新法が施行される以前は、アルバータ州選挙管理委員会には、このような投稿を変更したり削除を求めたりする法的権限はありませんでした」と述べています。

カナダ公安省のマーゴ・ボイル報道官は、外国からの干渉の脅威は連邦政府にとって優先事項であると述べましたが、アルバータ州で予定されている住民投票に先立って具体的にどのような対策が講じられているのかについては言及しませんでした。

ボイル氏は電子メールで、「信頼できる情報に基づき、外国政府または外国と関係のある組織がカナダの政治プロセスに干渉しようとしている可能性がある場合、連邦機関はそれぞれの権限の範囲内で評価、調査、行動する権限を有します」と述べています。

報告書の著者らは、カナダ国民には地域的な不満や連邦制について議論する権利があり、それは民主主義プロセスの一部であると述べています。

「危険なのは、その議論が存在すること自体ではありません。」 「外国政府、国家寄りのメディア、イデオロギーネットワーク、そして営利目的の操作システムが、この問題を歪曲しようとしていることが危険である」と報告書は結論付けている。

「外部勢力が分離主義的な言説を増幅させ、併合を正当化し、国家分裂を煽り、あるいは民主的プロセスへの信頼を損なうとき、この問題はもはや単なる地方政治の問題ではなくなる。それはカナダの民主主義の健全性、国家安全保障、そして認識主権に対する直接的な脅威となる。」

韓国警察は、大田市動物園から脱走したオオカミの捜索を妨害する目的で、AI生成画像を拡散した男を逮捕した。

この40歳の男は、身元は公表されていないが、脱走したオオカミ「ヌクグ」が交差点を歩いているように見せかけた偽画像を制作・拡散し、捜索を妨害した疑いが持たれている。

4月8日にヌクグが行方不明になった数時間後に拡散されたこの画像は、当局が捜索範囲を急遽変更し、オオカミの追跡に奔走する事態を招いた。

2歳のヌクグの捜索は全国的な注目を集め、脱走から9日後の先週、高速道路付近でようやく捕獲された。

このAI生成画像を受けて、大田市は住民に対し、交差点付近にオオカミが出没しているとの緊急警告メッセージを発信した。地元メディアによると、当局は脱走オオカミに関する記者会見でもこのAI画像を提示したという。

警察は防犯カメラの映像とAIプログラムの使用記録を精査し、男を容疑者として特定した。当局は、男が捜索中に意図的に写真を送ったのか、単にオンラインで共有しただけなのかは明らかにしていない。

地元メディアの報道によると、男は警察の取り調べに対し、「面白半分でやった」と供述したという。

当局は、詐欺による公務妨害の容疑で男を捜査している。この罪は最高5年の懲役または1000万ウォン（約6700ドル、約5000ポンド）の罰金が科される可能性がある。

1週間以上にわたり、ヌクグの捜索は韓国国民の注目を集めた。李在明大統領も公にオオカミの無事帰還を祈った。

2024年生まれのヌクグは、かつて朝鮮半島に生息していたものの、現在では野生では絶滅したとされる朝鮮オオカミの復活を目指すO-Worldのプログラムに参加している。

無事に動物園に戻されて以来、ヌクグは街中で大人気となっている。地元のパン屋では、オオカミの顔をあしらった焼き菓子を販売し始め、市はヌクグを公式マスコットに指定することを検討しているという。

動物園が公開した、檻の中で肉を食べるヌクグの動画は100万回以上再生された。しかし、動物園はヌクグの回復を静かに見守るため、今後はヌクグの近況報告を一切行わないと発表した。

12月2日――自宅に押し入ってレイプしたとされるホームレス男性のAI生成画像を警察に提出したフロリダ州の女性が、虚偽の犯罪報告で有罪判決を受けた。記録によると、この虚偽報告は「TikTokチャレンジ」と注目を集めたいという欲求に駆られたものだった。

ブルック・シノールト（32歳）は昨日、この虚偽報告について無罪を主張せず、軽犯罪で有罪判決を受けた。罰金刑と保護観察処分が言い渡された。

10月、シノールトは911番に通報し、セントピーターズバーグのアパートに男が押し入り、別の部屋で寝ていた乳児に性的暴行を加えたと訴えた。

シノールトは、男がソファに座っているところを写真（右図）に撮ったと主張した。警察は情報公開請求に応じてTSGに写真を提供した。

通報された強盗・暴行事件を受け、警察は7名の警官、刑事1名、救助隊員6名、そしてDNAサンプルを採取した鑑識技師1名を含む現場に出動した。

シノールト氏の証言は、ダグニ・クロッサー刑事が容疑者とされる人物の写真（パーカーを着た30代の白人男性）を検証したことで崩れた。クロッサー刑事は「多くのソーシャルメディアサイトやトレンドに精通しているため、この男性がTikTokで流行しているチャレンジの人物だとすぐに分かった」と報告した。クロッサー刑事によると、「AIホームレスチャレンジ」とは、住宅の写真をAIアプリにアップロードすると、ホームレス男性の写真を画像に挿入するというものだった。

「ほとんどの人は、被写体をソファーに寝かせ、そのスクリーンショットを撮って、見知らぬ人物が家にいると家族や友人に心配させるいたずらとして送る」とクロッサー氏は述べ、同じホームレス男性の写真を使った「このチャレンジのTikTokリール動画を複数発見した」と報告した。

警察に問い詰められたシノー容疑者は、当初、AIを使って襲撃者のぼやけた写真を鮮明にしただけだと主張した。しかし、最終的には自白し、うつ病を患っていて不眠症だったこと、そして「注目を集めたかった」ことを供述した。

シノー容疑者によると、この偽画像は「GoogleとChatGPT」を使って作成されたという。警察の報告によると、写真を作成する際、ブルック容疑者は「ホームレス男性」と入力したとのことだ。

フロリダ州デルトナ発 ― フロリダ州のある家族が、行方不明になった愛犬をめぐり、人工知能（AI）を使った詐欺に遭った経験を共有し、他のペットオーナーに注意を呼びかけている。

ビル・コーセンスさんによると、この事件は日曜日の朝、飼っているビーグル犬のミックス犬、アーチャーが裏庭から逃げ出した直後に始まった。コーセンスさんはソーシャルメディアに行方不明の犬について投稿したところ、犬を見つけたという女性から電話がかかってきた。

電話の主は、アーチャーが車に轢かれ、緊急手術に2,800ドルが必要だとコーセンスさんに告げた。詐欺師は、コーセンスさんがソーシャルメディアに投稿した写真を使って、手術台に横たわるアーチャーの写真を送ってきた。しかし、これらの写真は偽物で、AIによって生成されたものだった。

AI生成写真

彼らの声：

「論理的に考え、感情をコントロールできるようになると、詐欺に遭っていることがはっきりと分かってきます」とコーセンス氏は語った。「そして、動揺や不安から、怒りへと気持ちが変わっていくのです。」

コーセンス氏は、詐欺師が提示した動物病院の住所を調べたところ、近くの市役所の住所だったことに気づき、不審に思った。幸いにも、彼は送金しなかった。

コーセンス氏によると、近所の人が、女性がアーチャーを車に乗せて走り去るのを目撃したという。近隣住民は最終的にその女性を見つけ出し、犬を無事にコーセンスさんのもとへ返すことができました。

増加傾向：

ボルシア郡保安官事務所は現在、この事件を捜査中です。この事件は、今年初めにセントピーターズバーグで発生した同様の事件と酷似しています。セントピーターズバーグでも、別のペット飼い主がほぼ同じ手口で被害に遭いました。そのケースでは、被害者の銀行が送金前に不審な取引を検知していました。

専門家によると、こうした詐欺師はソーシャルメディアの迷子・保護動物に関する投稿から写真を「スクレイピング」し、AIツールを使って偽の怪我や医療器具を画像に追加することが多いとのことです。

コーセンスさんは、ペットを失った悲しみは大きいものの、同様の状況にある人は警戒を怠らないようにとアドバイスしています。

「詐欺に遭わないための最も重要なポイントは、相手が直接会って支払いを受け取ろうとしない場合、それは詐欺だということです」とコーセンス氏は述べた。

出典：この記事は、今年詐欺被害に遭った2人のペットオーナーからの情報と、FOX 13のカイリー・トレイシー記者の取材に基づいて作成されました。