ノースカロライナ州選出の上院議員、デアンドレア・サルバドール氏は6月、ブラジルの人々からメールを受け取り始めた際、フィッシング詐欺の一環だと思ったという。最初は上院議員事務所に、その後は選挙運動に送られてきたメールの件名は「あなたですか？」や「AI操作」といったものだった。
しかし、あるジャーナリストから、ネット上で拡散している特定の動画について尋ねるメールを受け取った後、彼女は調査することにした。
サルバドール氏はインターネットで自分の名前を検索し、2018年のTEDトークで、低所得層のアメリカ人の光熱費削減方法について彼女が講演した動画が、受賞歴のあるワールプール社のブラジル製品プロモーシ ョン動画で使用されていたことを発見した。
TEDトークの中で、サルバドール氏は、自分が育った頃、近所の人たちが冬の暖かさや夏の涼しさを得るために、電線に違法に盗聴していたと語っている。その後、彼女は何百万ものアメリカの家庭、特に黒人や農村部の家庭が、電気代の支払いと医薬品や食料といった生活必需品の支払いのどちらかを選ばなければならないというデータを示したスライドを提示した。
しかし、ワールプールの動画に登場した20秒のクリップでは、サルバドールはブラジルで最も人口の多い都市であり、彼女がこの問題に取り組んでいる故郷ノースカロライナ州とは全く異なるサンパウロの低所得者層について語っているように見える。彼女の発言内容が変更されるだけでなく、このCMではスライドもサンパウロのデータに変更されている。
どちらの動画でも、サルバドールはシーグリーンのブレザー、グレーのスラックス、キトンヒールでTEDのステージに登場している。しかし、彼女の声は変更されている。
TEDトークで彼女はこう述べた。「人々は不可能な選択を迫られています。アメリカでは、平均的なアメリカ人は収入の3%をエネルギーに費やしています。一方、低所得者層や地方の住民は、収入の20%、あるいは30%をエネルギーに費やしていることもあります。」
ワールプールのCMでは、彼女はこう言っているように聞こえる。「人々は不可能な選択を迫られています。サンパウロの低所得者層では、平均的な電気代が月収の30%を占めています。」
動画はその後、彼女が講演の中で述べた「エネルギーが負担になるのは 、まさにこの時です」というセリフへと繋がる。
「本当にショックでした」と、低所得者層のエネルギーコスト削減を目指す非営利団体を設立し、2021年にはノースカロライナ州議会史上最年少の女性議員となった34歳のサルバドール氏は語った。
「彼らは私を権威ある人物として利用し、ワールプールのコメンテーターに仕立て上げました。彼らが私に言わせている話が真実かどうかさえ分かりません」と彼女は語った。「そして、私を苦しめているのは、もし誰も名乗り出ていなかったら、こんなことがあったなんて知る由もなかったということです」
サルバドール氏は、自身の肖像が無断で使用されたとして、ノースカロライナ州の連邦裁判所にワールプール社、動画を制作したグローバルマーケティング会社オムニコム・グループ、そして両社の子会社を相手取り訴訟を起こした。訴訟の中で彼女は、現在もオンラインで閲覧可能なこの動画は、議員として、そしてエネルギー価格の低廉化を推進する活動家としての彼女の評判を傷つける可能性があると主張している。
ミシシッピ大学ジャーナリズム学部長のアンドレア・ヒッカーソン氏は、AIによる操作は多くの人が考えているよりもはるかに一般的であり、検知が難しい可能性があると述べた。
「テイラー・スウィフトは記者会見を開いたり、インスタグラムに投稿したりして、『あれは私じゃない』と言える」と、AI生成コンテンツがメディア環境をどのように変えているのかを研究するヒッカーソン氏は述べた。しかし、経済界や企業のリーダーの素顔を知る人はほとんどいないため、AIによる操作の格好の標的になってい ると彼女は指摘する。
サルバドール氏が「効率的な支払い方法」と題されたこの動画を見た頃には、この動画はフランスのカンヌライオンズ国際広告祭で既に2つの賞を受賞していた。広告界のアカデミー賞とも呼ばれるこの賞は、マーケティング業界で最も権威のある賞の一つだ。
サンパウロに拠点を置くオムニコム・グループの子会社DM9が、ワールプールのブラジル支社コンスルのために制作したこの動画は、低所得のブラジル人が将来の光熱費を節約することで、省エネ型のワールプール家電を購入する方法を解説している。カンヌライオンズでは、審査員がDM9とConsulに2分間の動画で2つの賞を授与しました。クリエイティブデータ部門で最高賞となるグランプリ、そしてクリエイティブコマース部門でブロンズライオンです。
カンヌの後、この動画は注目を集め、その内容について疑問が投げかけられました。CNNブラジルは、動画にCNNブラジルの放送から改ざんされたコンテンツも含まれていることを発見し、Whirlpoolと同社に対して苦情を申し立てました。
Whirlpoolの広報担当者は、同社幹部は「サルバドール上院議員の発言が改変されていたことを認識していなかった」と述べ、「カンヌで問題を認識した直後に」サルバドール上院議員に連絡を取ったとしています。
オムニコムはコメント要請に応じなかったが、LinkedIn上では、子会社がワールプールのビデオなどの改変にAIを使用したことを認めた。DM9は「カンヌライオンズ・フェスティバル・オブ・クリエイティビティ、作品の評価に時間と 労力を費やしてくださった審査員の皆様、そして業界全体に対し、惜しみなく謝罪する」と声明で述べている。(https://www.linkedin.com/posts/dm9_dm9-anuncia-retirada-de-cases-e-medidas-ap%C3%B3s-activity-7344446101522911232-B3Jl?utm_source=share&utm_medium=member_desktop&rcm=ACoAAAv3ibEBQJ80BkTeBb1iHmZqUR4rZBnXKik)
DM9は、ワールプールのスポット広告を含む3つのエントリーで獲得したカンヌライオンズ賞を、「提出された作品の真実性または正当性に関する重大な矛盾」を理由に返還した。
オムニコムとワールプールは、サルバドール氏の評判がこの動画によって実質的に損なわれたわけではないと主張し、訴訟の却下を求めている。サルバドール氏の訴訟に対し、DM9は、この動画がブラジルで放送されたことはなく、AIによる改変は少数の従業員によって行われたと反論した。
カーネギーメロン大学テッパー経営大学院のビジネス倫理学教授、デレク・リーベン氏は、この動画は、従業員や外部企業が上司の承認なしに人工知能を使用する「シャドーAI」の一例である可能性があると述べた。
ワールプールのような大企業は、広告代理店や提携企業から提供された動画、画像、データの出所を確認すべきだとリーベン氏は述べた。 「生成AIがメディア制作に利用されているかどうかを開示することを義務付ける法律がすぐに制定されるとは思えませんが、企業が協力する人々に何らかの透明性を求めるようになることを期待しています」と彼は述べた。
しかし、この技術は広く利用可能であるため、ディープフェイクから身を守ることは困難だと、カリフォルニア大学バークレー校のコンピュータサイエンス教授、ハニー・ファリド氏は述べている。「自分の映像――一枚の写真、短い動画、音声クリップなど――をオンライン上に公開している人は誰でも、肖像を切り取られる可能性があります。そして、自分がしていない発言や行動の音声、動画、画像が作られる可能性があるのです」とファリド氏は述べた。
サルバドール氏は、この動画の存在を知る前から、急成長する人工知能の世界に伴うプライバシーの問題を懸念していたという。彼女はAIの利用に反対しているわけではなく、マサチューセッツ工科大学でMBAを取得し、フェローシップを取得したばかりで、そこで高齢者の運動機能障害に対処するためのAI技術に取り組んでいたことを指摘した。
「本当にゼロサムゲームだとは思っていません」と、エネルギー政策に取り組む州政府職員の団体である全米電力政策評議会の委員を務めるサルバドール氏は述べた。「生活の質を向上させる可能性のある急速なイノベーションが起こっていますが、どんな技術にも安全策は必要だと思います」
彼女は数週間かけて、自身のTEDトークの改ざんされた動画をインターネット上で探し、削除を試みてきた。
「動画が使用される場合、講演を引き受ける前に躊躇する瞬間があります」と彼女は語った。