最近のTEDトークで、北アイルランドの政治家カーラ・ハンターは、ディープフェイク攻撃によって選挙運動が頓挫しかけた体験を語った。2022年4月、誰かが彼女の偽ポルノ動画を作成し、WhatsAppで共有した。動画は北アイルランド中に急速に広まり、投票者が投票所に向かうわずか3週間前に公開された。
「動画に映っている女性は私ではないが、私とそっくりだった。ありえないほど私に似ていた。不気味なほど私に似ていた」とハンターはトークで語った。彼女が地元警察に連絡したとき、彼らは助けることができなかった。動画の出所を追跡するのに必要な技術がなかったのだ。
その影響は迅速かつ残酷だった。ハンターは数え切れないほどの下品なメッセージを受け取り、路上で嫌がらせを受ける人も現れた。180万人の北アイルランドの緊密なコミュニティでは、動画は瞬く間に広まり、彼女自身の家族でさえ彼女の言い分を疑い始めるほどだった。
テクノロジーが民主主義を標的にするとき
この攻撃は、テクノロジーと標的型ハラスメントの危険な交差点を浮き彫りにしている。「これは女性蔑視とテクノロジーの悪用が出会った瞬間であり、民主的な選挙の結果にさえ影響を与える可能性があった」とハンター氏は説明した。
ハラスメントは動画で止まらなかった。6か月後、ハンター氏は下着姿のAI生成ディープフェイク画像を15枚以上受け取った。ハンター氏はまだ誰が作成したのか知らないが、多くの場所ではこうしたディープフェイクの作成はまだ違法ではないとハンター氏は言う。
ハンター氏にとって、これらの攻撃は単なる個人的なハラスメント以上のものであり、民主主義システムへの直接的な脅威である。「真実がなければ、民主主義は崩壊します。真実があれば、情報に基づいた決定を下すことができ、リーダーに責任を負わせることができます。これは非常に重要です」と彼女は述べた。
ハンター氏は今後、AI規制の強化を提唱し、テクノロジーに最初から倫理原則が組み込まれることを望んでいる。
「私は、AI は人間の価値観を備えた人間的な技術であり、私たちの生活を補完して私たちを最高の自分に変えることができると強く感じています」と彼女は説明した。「しかし、そのためには、この技術に倫理を組み込み、偏見 を排除し、共感を植え付け、人間の価値観や人間の原則に沿っていることを確認する必要があると思います。」
説得力のあるディープフェイクの作成は日々容易になっています
ハンターの経験は、ディープフェイク攻撃の不穏なパターンに加わっています 圧倒的に女性をターゲットにしています。この問題が最初に浮上したのは 2017 年で、匿名の Reddit ユーザーが この技術の名前の由来であるユーザー名「deepfakes」で、有名人の偽ポルノ動画を投稿し始めたときでした。
それ以来、説得力のあるディープフェイクの作成はますますシンプルでアクセスしやすくなりました。被害者は今や有名人をはるかに超え、未成年者もターゲットになっています。ハンターのケースは、このテクノロジーが、公の場に出る女性への嫌がらせや脅迫に武器として利用される可能性があることを示している。