投票権擁護団体が、1月にニューハンプシャー州の有権者に同州の大統領予備選挙に参加しないよう促したバイデン大統領のAI生成ロボコールの背後にいる政治コンサルタントと企業を訴えている。
ニューハンプシャー州女性有権者連盟は、選挙コンサルタントのスティーブ・クレイマー氏と通信会社のライフ・コーポレーションとリンゴ・テレコムが、投票権法や電話消費者保護法を含む連邦法と州法に違反して有権者を脅迫、強制、欺瞞したと非難している。この訴訟は、ロボコールを受け取ったと主張する有権 者3名を代表してニューハンプシャー州連邦地方裁判所に提起されたもので、裁判官に対し被告らに罰金を科し、人工知能で生成された他のロボコールの制作、生成、配布を禁止するよう求めている。
「これらの欺瞞的なロボコールは、ニューハンプシャー州の有権者に広範囲にわたる混乱をもたらそうとした」と、ニューハンプシャー州女性有権者連盟のリズ・テンタレッリ会長は、訴訟を発表する声明で述べた。 「女性有権者連盟は、政党に関係なく、すべての有権者が最も正確な選挙情報を入手し、自分たちの声を届けられるように取り組んでいます。私たちはニューハンプシャー州の有権者を擁護し、投票を抑制する悪質な計画と闘い続けます。」
生成AI --- 入力されたデータに基づいてテキスト、画像、またはサウンドを形成するテクノロジー --- は、近年、より一般的になり、洗練されてきました。ディープフェイクはX、Facebook、その他のソーシャルメディアプラットフォームで頻繁に拡散しているとワシントンポスト紙は報じているが、1月のロボコール事件は、AIが米国大統領選挙に干渉した最初の主要な事例の1つであり、AIの破壊的で広範囲にわたる力を実証している。ほぼ誰でもAIを使って混乱と混沌をまき散らすことができるのだ。
「悪意のある行為者は長い間、脅迫、威嚇、強制によって選挙プロセスを弱体化させようとしてきたが、被告の人工知能の悪意ある使用は、アメリカの民主主義に対する新たな危険な脅威となっている」と女性有権者連盟支部は訴状に記している。
ライフコーポレーション、そのオーナーであるウォルター・モンク、リンゴテレコム、クレイマーの代理人は土曜日のコメントを控えた。
民主党の大統領候補で、当選の可能性が低かったディーン・フィリップス氏の下で働いていたベテランコンサルタントのクレイマー氏は、2月にワシントンポスト紙に、AI音声クローン会社イレブンラボのソフトウェアを使用してバイデン氏の声を真似るために、マジシャンで自称「デジタル遊牧民」のポール・カーペンター氏を雇ったと語った。クレイマー氏によると、バイデン氏のディープフェイク音声は30分もかからずに作成され、ライフ・コーポレーションと提携するボイス・ブロードキャスティングが配信した。クレイマー氏はポスト紙に対し、重要な選挙の年にAIの危険性について認識を高めるためにロボコールを作成したと語った。
「誰でもできるのなら、本物のお金を持っている人や団体は一体どうするんだ？」と同氏は語った。
カーペンター氏は訴訟の被告として名前が挙がっていない。
同氏の弁護士ブランドン・キジー氏は、カーペンター氏は捜査に従っていると述べたが、それ以外はコメントを控えた。
発信者識別データによると、メッセージはニューハンプシャー州民主党の元議長キャシー・サリバン氏から発信されたものと思われる。同氏は、有権者に投票用紙にバイデン氏の名前を記入させる取り組みを主導していたが、同 氏は関与していなかった。
訴訟によると、電話の内容は「今週の火曜日はニューハンプシャー州大統領選予備選挙です」というものだった。 「共和党は、無党派や民主党の有権者に予備選挙への参加を促そうとしている。まったくの戯言だ。我々は、票が重要となるときに民主党に投票することの価値を知っている。11月の選挙のために投票を取っておくことが重要だ。我々は、候補者の上下を問わず民主党員を選出するために、あなたの助けを必要とする。今週の火曜日に投票することは、共和党がドナルド・トランプを再び選出しようとするのを手助けするだけだ。あなたの投票が意味するのは、今週の火曜日ではなく、11月だ。」
2月初旬、ニューハンプシャー州のジョン・フォルメラ司法長官（共和党）は、ライフ・コーポレーションに対する刑事捜査を開始し、テキサス州に拠点を置くこの通信会社に、電話の停止を命じる書簡を送った。連邦通信委員会も調査中だ。
法律は、生成AIの進歩のペースに追いつくのに遅れている。 OpenAIの最高経営責任者サム・アルトマンなどの業界関係者からの警告にもかかわらず、この技術に関する議論は議会で行き詰まっている。一方、欧州の規制当局は猛スピードで動いている。
しかし、FCCはAIを抑制する措置を講じている。ロボコールの数週間後、FCCは全会一致で、ロボコー ル用のAIによる音声生成は違法であると明確にする判決を採択した。
「悪質な行為者は、AIが生成した音声を一方的なロボコールに使用して、弱い家族を脅迫したり、有名人を真似したり、有権者に誤った情報を提供したりしています」とFCCのジェシカ・ローゼンウォーセル委員長は声明で述べた。「私たちは、これらのロボコールの背後にいる詐欺師に警告を発しています。」