複数の報道によると、上院外交委員会のベン・カーディン委員長（民主党、メリーランド州選出）は、ビデオ通話者がディープフェイク画像を使ってウクライナ高官を装うという高度ななりすまし行為の標的となり、AIが生成した偽の画像や動画の脅威が高まっていることが浮き彫りになった。
この事件は、パンチボウルニュースによって最初に報じられ、後にニューヨークタイムズ確認され、上院のセキュリティオフィスが最近、ウクライナの元外務大臣ドミトロ・クレーバを装った人物とズーム通話した件について送った通知で引用された。
タイムズは、上院関係者2名を引用し、問題の上院議員はカーディン氏であることを確認した。同氏はまた、悪質な人物が「有名人を装って私と会話をしようとした欺瞞的な試み」について同メディアに語った。
通知によると、カーディン氏は、最近より広範な内閣改造の一環として役職を辞任したウクライナの指導者を名乗る人物からメールを受け取った後、Zoomでクベラ氏に似た外見と声の発信者とつながった。
しかし、カーディン氏は、ロシア領土を狙った長距離ミサイルの使用を支持するかどうかなど、「次の選挙に関連した政治的な質問」をされた後、発信者の信憑性に疑念を抱いた。
NBCニュースが報じた別の通知では、上院安全保障局も議員らに「上院議員と上院職員を標的とした活発なソーシャルエンジニアリングキャンペーン」について警告した。
重要な引用
「過去数ヶ月、数年にわたってソーシャルエンジニアリングの脅威が増加していますが、今回の試みは技術的に洗練されており、信憑性が高いため、際立っています」と通知には記されています。
ここ数週間、情報当局と技術幹部は 、外国のアクターが人工知能を活用したツールを使用して米国の選挙に影響を与えようとしていると警告しています。今週初めに公開された評価では、国家情報長官室は、ロシアやイランを含む外国のアクターが「それぞれの米国選挙への影響活動を強化するために、生成AIテクノロジーを使用している」と述べました。しかし声明では、AI は「外国の影響力行使活動の側面を改善し、加速させるのに役立っている」ものの、情報委員会は今のところ AI が「そのような活動に革命を起こした」とは見ていないと付け加えている。先週、マイクロソフト副社長のブラッド・スミス氏は、11 月の選挙を狙った外国の干渉活動について上院委員会で 証言 した。スミス氏は、今年の干渉活動における AI ツールの使用は「多くの人が恐れていたほど影響は大きくない」と述べたが、「決意と先進性を持った行為者」は時間の経過とともに AI の使用を強化するだろうと認めた。
タンジェント
先週、カリフォルニア州知事ギャビン・ニューサムは 3 つの新しい法案に署名 しました。そのうちの 1 つは即時発効し、選挙の 120 日前、場合によっては 60 日後に「候補者の実質的に欺瞞的な音声または映像メディア」を配信することを違法とします。カリフォルニア州のこの法案は、ニューサムが政治的ディープフェイクを取り締まると誓った後に 成立しました。この呼びかけは、X のオーナーで億万長者のイーロン・マスクが、AI で生成された音声クリップを使用して副大統領カマラ・ハリスの音声を模倣したキャンペーン動画を改変して共有し、ハリスを「究極の多様性採用」および「ディープ ステートの操り人形」と呼んだ後に行われました。この法律には、パロディであることが明確に表示されている限り、パロディに対する例外規定が含まれているが、マスク氏はこの法律を検閲だと非難し、「パロディを違法にする」と主張した。