ワシントン（AP通信）— 上院安全保障局によると、今月、高度なディープフェイク工作が上院外交委員会の民主党委員長であるベン・カーディン上院議員を標的にしていた。これは、悪意ある行為者が米国のトップ政治家を騙すために人工知能に目を向けていることを示す最新の兆候だ。
専門家は、かつては生成型人工知能をめぐって存在していた技術的障壁が減少した今、このような計画はより一般的になると考えている。月曜日に上院安全保障局から上院事務所に送られた通知では、この試みは「技術的に洗練されており、信憑性が高いため、際立っている」と述べられている。
この計画の中心は、ウクライナの元外務大臣ドミトロ・クレーバ氏だった。通知によると、カーディン氏の事務所は、クレーバ氏と思われる人物からメールを受け取った。カーディン氏は過去の会合で、職員の一人と面識があったという。
2人がビデオ通話で会ったとき、接続は「過去の会合と見た目も音も一貫していた」。上院の通知によると、クレーバを装った電話の相手が「ロシア領土への長距離ミサイルを支持しますか？ 答えを知りたいです」などと質問し始めたとき、カーディン氏とそのスタッフは「何かおかしい」と疑った。
上院のセキュリティ担当責任者ニコレット・ルウェリン氏からの通知によると、「通話者は上院議員に、次の選挙に関連して政治的な質問を続けた」が、おそらくは候補者について発言するよう誘い出そうとしたのだろう。「上院議員とそのスタッフは電話を切り、すぐに国務省に連絡し、クレーバではないことを確認した」。
カーディン氏は水曜日、この出来事を「悪意のある人物が、有名な人物になりすまして私と会話しようと欺瞞的な試みをしていた」と表現した。
「私が話していた人物が自称する人物ではないことがすぐに明らかになったため、私は電話を切り、私の事務所は迅速に行動を起こし、関係当局に通報した」とカーディン氏は述べた。 「この問題は現在、法執行機関の手に委ねられており、徹底的な捜査が進行中です。」
カーディン氏の事務所は、追加情報の要請には応じなかった。
生成型人工知能は、膨大な計算能力を使用して、ビデオに表示されるものをデジタル的に変更することができ、ビデオの背景や主題をリアルタイムで変更することもある。同じ技術を使用して、音声や画像をデジタル的に変更することもできる。
このような技術は、以前にも悪質な計画に使用されてきた。
香港の金融関係者は、人工知能を使用して会社の最高財務責任者を装った詐欺師に2,500万ドルを支払った。ある政治コンサルタントが人工知能を使ってジョー・バイデン大統領の声を真似、ニューハンプシャー州の大統領予備選挙で投票しないよう有権者に呼びかけたため、このコンサルタントは20件以上の刑事告発と数百万ドルの罰金に直面した。また、高齢者介護の専門家は長い間人工知能を利用したディープフェイクが高齢者を狙った金融詐欺を激化させることを懸念してきた。
上院のセキュリティ担当者と人工知能の専門家は、最近の技術の飛躍的進歩により、カーディン氏に対するような計画はより信憑性が高くなっただけでなく、実行も容易になったことを考えると、これはほんの始まりに過ぎないと考えている。
「過去数か月で、ライブビデオのディープフェイクとライブオーディオのディープフェイクをパイプで繋ぐことができる技術は、ますます簡単に統合できるようになっています」と、サイバーセキュリティの専門家でSocialProof SecurityのCEOであるレイチェル・トバック氏は述べ、この技術の初期のバージョンでは、ぎ こちない唇の動きから人が逆まばたきをするなど、偽物であることが明白だったと付け加えた。
「今後、このような事件が増えると予想しています」と、バッファロー大学の人工知能の専門家で教授のシウェイ・リュ氏は述べた。「今や、何らかの悪意を心に抱く人なら誰でも、このような攻撃を実行できるようになっています。これらは政治的な観点から来る場合もありますが、詐欺や個人情報窃盗などの金銭的な観点から来る場合もあります。」
上院スタッフへのメモもこの考えを反映しており、面会要請が本物であることを確認するようスタッフに指示し、「今後数週間で別の試みが行われる」と警告している。
ホワイトハウスで長年サイバーセキュリティ政策を主導した人工知能と国家安全保障の専門家、R・デイビッド・エデルマン氏は、この計画を「高度な諜報活動」と表現し、人工知能技術の使用と、カーディン氏とウクライナ当局者のつながりを認識したより伝統的な諜報活動を組み合わせた点で「最先端に近いと感じられる」と述べた。
「彼らはこの2者間の既存の関係を認識していた。彼らは、タイミング、モード、コミュニケーション方法など、どのようにやり取りするかを知っていた」と同氏は述べた。「諜報活動には高度なものがある」