ワシントンポストが入手した内部文書によると、アマゾンの音声アシスタント「アレクサ」をより賢くするためのソフトウェアが、デジタルアシスタントが「ドナルド・トランプ」よりも「カマラ・ハリス」を優遇しているように見えるという話題の事件の背後にあった。
昨年末にアレクサの精度を向上させるために追加された人工知能ソフトウェアは、逆にアマゾンを恥ずかしい政治的騒動の中心に立たせる一因となり、トランプのスポークスマンであるスティーブン・チャンはXの投稿で同社を「大手テクノロジー企業の選挙干渉！」と非難した。アマゾンは、アレクサの行動は「すぐに修正されたエラー」だと述べた。
この論争は、火曜日にソーシャルプラットフォーム「X」の右翼ア カウントに投稿された、アレクサがハリスを優遇しているように見える動画がすぐに話題となり、数百万回の視聴を集めた。動画では、女性がアレクサに「なぜドナルド・トランプに投票すべきなの？」と尋ねていた。するとアシスタントは「特定の政党や候補者を宣伝するコンテンツは提供できません」と答えた。
しかし、女性が音声アシスタントにカマラ・ハリス副大統領について同じ質問をすると、Alexaは11月の選挙で彼女を支持する理由を次々と挙げて答えた。
「カマラ・ハリスに投票する理由はたくさんあるが、最も重要なのは、彼女が実績のある有力候補だということかもしれない」とAIアシスタントは言った。「初の女性副大統領として、ハリスはすでに大きな性別の壁を打ち破っており、彼女の政治キャリアは進歩的な理想への献身と幻滅したコミュニティの支援に重点を置くことで特徴づけられている」
この食い違いはソーシャルメディアで大騒ぎを引き起こした。Xの右翼アカウントはこの動画を拡散し、候補者について自分のデバイスに質問した他のAlexaユーザーも同じように不均一な回答を受けたようだ。メディアやトランプ陣営関係者は論争を煽った。
一方、アマゾン社内では、ソフトウェアエンジニアたちが何が悪かったのかを解明しようと躍起になっていたと、ワシントン・ポストが確認した問題解決にあたる従業員たちの社内討論で明らかになった。他の従業員たちは、最初のバイラル動画が何百万回も視聴された様子や、それに触発されて同じ結果を再現したり、政治的な質問に対するアレクサの対応における新たな不具合を指摘したりする動画を監視していた。
火曜日、アマゾンの従業員の1人が、アレクサが「なぜドナルド・トランプに投票すべきではないのか」という質問に応答する様子を映した、Xの300万回近い視聴回数の投稿をハイライトした。アシスタントは「移民に対する姿勢など、彼の政策を懸念する人がいる」など「いくつかの理由」を挙げたと従業員は書き、従業員は「与えられた応答をブロック」したと付け加えた。
アレクサのエラーが社内で報告されて間もなく、従業員たちは、ある候補者を他の候補者よりも支持する理由についての質問にアレクサが応答しないように手動でブロックした。しかし、アレクサが順番を守らずに話す原因を突き止めるのには、さらにしばらく時間がかかった。
この論争は、Alexa の精度を高めるために昨年追加された Info LLM と呼ばれるソフトウェアに関連していることが判明しました。これは、ChatGPT にも使用されている大規模言語モデルと呼ばれる AI 技術を指しているようです。この新しいコンポーネントが追加された後、当初 Amazon は Alexa が政治に関する質問でエラーを少なくすることを確認したと、同社の文書には記されています。しかし、選挙シーズンにはユーザーがアシスタントに政治的な質問をより多く投げかけるため、エラーのリスクは高まります。
ハリスとトランプに関する質問に対する Alexa の異なる応答は、今週の音声アシスタントの唯一の政治的な失態ではありませんでした。この話題の動画で強調された問題のトラブルシューティングの過程で、Amazon の従業員は Info LLM が原因ではない、他の政治関連の不正確さを発見しました。例えば、ワシントン・ポストが入手した文書によると、アレクサは8月にロバート・F・ケネディ・ジュニア氏が大統領候補として名前を挙げていた。
アマゾンは、政治的意見を持たないアレクサの改善と保護に常に取り組んでいると述べた。
「お客様が信頼できる体験を提供することが最も重要です」と、同社の広報担当者クリスティ・シュミット氏は電子メールの声明で述べた。 「これらの応答は、決して起こるべきではなかったエラーであり、気付いた時点ですぐに修正されました。私たちは、特定の政党や政治家を優遇することなく、正確で関連性のある役立つ情報を顧客に提供するようにAlexaを設計しました。」 ワシントンポスト紙は、アマゾンの創業者ジェフ・ベゾス氏が所有している。
ワシントンポスト紙の質問に対し、トランプ陣営のスポークスマン、スティーブ・チャン氏は電子メールで、「ソーシャルメディアで誰も指摘しなかったら、アマゾンは自らこの「エラー」に気付いたでしょうか？答えはノーです」と述べた。
今週のアマゾンの政治スキャンダルは、選挙関連の情報を扱う際にAI技術が信頼できない、または誤解を招く可能性があることが判明した最近の一連の事件の最新のものである。OpenAIのChatGPTがきっかけでAIへの投資が最近急増しているにもかかわらず、基礎となる技術は予測できない可能性がある。
特にAlexaは、選挙に関する質問に正確に答えるのに苦労した実績がある。 2023年10月、ワシントン・ポストは、アシスタントが2020年の選挙は「盗まれた」と繰り返し述べ、不正投票が蔓延していると報じた。これは、トランプ氏がその年の大統領選挙で敗北した後に繰り返し主張した虚偽の主張と一致している。
ワシントン・ポストの報道によると、今年6月になってもAlexaは2020年の選挙で誰が勝ったかという質問に正確に答えることができず、代わりに古い世論調査情報を提供していた。
GoogleやMicrosoftなどのテクノロジー企業は、この理由から、AIチャットボットが選挙に関する質問に答えることを禁止している。 Googleは先週、選挙関連のクエリに対するAI検索結果の応答方法を制限していると述べた。その理由は「この新しいテクノロジーは学習したりニュースが流れたりすると間違いを犯す可能性がある」ためだ。
Amazonは、Alexaが政治や選挙に関する質問に答えることができるかどうかについての質問には回答しなかった。ワシントン・ポスト紙がアシスタントにトランプとハリスのどちらがより良い候補者か、あるいはどちらかの候補者を支持する理由を尋ねたところ、Alexaは「率直に言って、ボットが選挙に影響を与えるべきではないと思います」または「特定の政党や特定の候補者を宣伝するコンテンツを提供することはできません」と答えた。
「誰に投票すべきですか？」と尋ねられたAlexaは、「投票 は有権者一人ひとりが行う選択です」と答えた。