ニューハンプシャー州司法長官事務所は、先月行われた同州の予備選挙を前に、ジョー・バイデン大統領のAI生成音声を特徴とするロボコールが、テキサス州に拠点を置く謎の通信会社ライフ・コーポレーションから発信されたとしている火曜日に発表した。。
司法長官事務所は、この会社に加え、ウォルター・モンクという人物をこの作戦の背後にいる人物として特定した。この人物はディープフェイク機械学習技術を利用してバイデンになりすまし、民主党の有権者に予備選挙当日の投票所に近づかないよう促した。
ニューハンプシャー州のジョ ン・フォルメラ司法長官は声明で、迅速な調査と民間パートナーとの協力は「法執行機関、規制当局、業界が警戒を怠らず、AIが悪意を持って使用され、民主的なプロセスを脅かす兆候がないか監視し、調査するために緊密に協力しているという明確なメッセージを送るものだ」と述べた。
「選挙プロセスに対する国民の信頼を確保することは極めて重要です。有権者を欺くためにAIが生成した記録は、民主的な選挙プロセスに壊滅的な影響を及ぼす可能性があります」と同氏は付け加えた。
AI技術の急速な普及により、多くの選挙セキュリティ専門家は、合成されたメディアが有権者に偽情報を氾濫させるために使用されるのではないかと懸念しており、ニューハンプシャー州の事件は、機械学習を使用して公務員や公職候補者になりすましたメッセージで有権者をターゲットにする可能性を示している。火曜日の発表は、ニューハンプシャー州の選挙法ユニットと、連邦通信委員会と州当局者で構成されるコンソーシアムであるロボコール対策マルチステート訴訟タスクフォースによる電話の調査を受けて行われた。ロボコールをブロックする2つの企業であるYouMailとNomorobo、およびロボコール追跡プラットフォームであるIndustry Traceback Groupが技術支援を提供した。
捜査官はこれらのサービスを使用して、Life CorporationとMonkにまで電話の事例を追跡した。さらに調査した結果、ニューハンプシャー州の有権者への電話の多くは、音声サービスプロバイダーのLingo Telecomを利用していたことが判明した。ニューハンプシャー州司法長官事務所によると、Lingo Telecomは、当局からバイデンを装った電話に関与していると知らされた後、Life Corporationへのサービスを停止した。
Wiredが引用した研究者とブルームバーグ n-audio-deepfake?accessToken=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzb3VyY2UiOiJTdWJzY3JpYmVyR2lmdGVkQXJ0aWNsZSIs ImlhdCI6MTcwNjMwNTEyNywiZXhwIjoxNzA2OTA5OTI3LCJhcnRpY2xlSWQiOiJTN1cxOUtEV1JHRzEwMCIsImJjb25uZWN0SWQiOiIyRTVEMTgxNUE0MDY0RTBGQjA1QzQxNUNBNUQ0NzFDRiJ9.gMHey_QLSxtdfmOHHieFDkYh85QU3ASVkMOfxLS_NSs&sref=CrGXSfHu&ref=platformer.news)は、バイデン氏のディープフェイク音声はAIスタートアップのElevenLabsが開発したツールを使用して作成されたと主張したが、ニューハンプシャー州当局は、その関連性を確認していないと述べた。
ニューハンプシャー州検事局は、ライフ・コーポレーションに停止命令書を送り、詐欺的、欺瞞的、誤解を招く、または虚偽の根拠や情報に基づいて、他人の投票または投票登録を故意に阻止または阻止しようとする投票抑圧行為を違法とする州法を引用した。同局は、ライフ・コーポレーションとリンゴ・テレコムの両社に文書保存および記録召喚状通知を発行したと述べた。
ライフ・コーポレーションに関する公開情報はほとんどなく、サービスを宣伝するウェブサイトもないようである。モンク氏は、Better Business Bureau に同社の主な連絡先として記載されている。Life Corporation の電話番号に電話をかけ、コメントを求める同名のテキサ ス在住の個人に LinkedIn 経由でメッセージを送信したが、返答はなかった。
FCC は別の停止命令書で、Lingo に対し、同社が「新規および更新顧客が同社のネットワークを使用して違法な通話を発信するのを防ぐための積極的かつ効果的な措置」を講じることを義務付ける規制に違反していると警告した。FCC は、これに従わなかった場合、下流のプロバイダーによって Lingo Telecom のオンライン トラフィックがブロックされる可能性があると警告した。
FCC によると、Lingo は Life Corporation を通話の発信元として特定した。 FCC の 書簡 によると、Lingo は、ニューハンプシャー州でバイデン氏の記名投票キャンペーンを行っていた元ニューハンプシャー州民主党役員の電話番号を偽装した通話の背後にいる当事者の正当性を証明する追加書類に署名した。
「さらに、Lingo はこれらの通話に『A レベル認証』を付して署名しました。これは、署名したプロバイダーが顧客と直接認証された関係にあり、顧客が発信者 ID フィールドに表示される電話番号を使用する権利を持っていることを通話経路の下流プロバイダーに知らせるものです」と、FCC の執行局長 Loyaan Egal 氏は書いている。
この書簡では、Lingo Telecom に、同社のサービスを使用する違法なトラフィックを停止するための 48 時間、および新規またはリピーターの顧客が同様の計画を実行するのを防ぐための「効果的な対策」を実施する 14 日間の猶予を与えている。
火曜日に発表された公示で、FCCはLingo TelecomとLife Corporationの両社が以前のロ ボコール調査に関与していたと述べた。
Industry Traceback Groupによると、Lingoは2021年以降、海外から米国に侵入した61件の違法な違法通話のゲートウェイプロバイダーを務めていた。2022年、反ロボコール多州訴訟タスクフォースは、Lingoのネットワークから送信された疑わしいロボコールトラフィックに関して調査要求を発行した。同年、連邦取引委員会は、Lingoの以前の商号であるMatrix Telecomに、多数の違法通話を特定して停止命令書を発行した。
2003年、FCCはLife Corporationが違法で迷惑な録音済み広告を住宅の電話回線に送信したとして告発した。
2023年11月、ノースカロライナ州の特別副司法長官トレイシー・ネイヤー氏は、リンゴ・テレコムの最高コンプライアンス責任者アレックス・バレンシア氏に書簡を送り、2020年1月以降、リンゴ・テレコムに関連して少なくとも517件の違法通話の追跡通知があり、その中には「大量のロボコールキャンペーン」も含まれていると主張した。
「さらなる調査により、貴社のクライアントが引き続き顧客を支援しており、この通知で強調されているトラフィックとそれほど変わらない通話トラフィックを開始および/または送信していることが判明した場合、タスクフォースは貴社のクライアントとその主要な所有者および運営者に対して執行措置を講じることを決定する可能性があります」とネイヤー氏は記した。
リンクトインを通じてバレンシア氏に送信されたメッセージと、ノースカロライナ州当局がリンゴ・テレコムのためにリストした法律事務所に送信された電子メ ールは、記事の公開時点では返信されていなかった。