選挙のわずか数週間前に北アイルランドの政治家カーラ・ハンター氏を狙ったディープフェイクポルノ攻撃は、AIがいかにして民主的なプロセスを妨害するために使われるかを示している。
最近のTEDトークで、北アイルランドの政治家カーラ・ハンター氏は、ディープフェイク攻撃によって選挙運動がほぼ頓挫した体験を語った。2022年4月、誰かが彼女の偽ポルノ動画を作成し、WhatsAppで共有した。この動画は北アイルランド中に急速に広まり、有権者が投票所に向かうわずか3週間前に現れた。
「動画に映っているこの女性は私ではなかったが、私にそっくりだ った。ありえないほど私に似ていた。不気味なほど私に似ていた」とハンター氏はトークの中で語った。彼女が地元警察に連絡したとき、彼らは助けることができなかった。動画の出所を追跡するのに必要な技術がなかったのだ。
その余波は迅速かつ残酷だった。ハンター氏は数え切れないほどの下品なメッセージを受け取り、路上で嫌がらせを受ける人も現れた。 180万人の北アイルランドの緊密なコミュニティでは、この動画は瞬く間に広まり、彼女の家族でさえ彼女の言い分を疑い始めるまでに至った。
テクノロジーが民主主義を標的にするとき
この攻撃は、テクノロジーと標的型ハラスメントの危険な交差点を浮き彫りにしている。「これは女性蔑視とテクノロジーの悪用が出会った瞬間であり、民主的な選挙の結果にさえ影響を与える可能性があった」とハンター氏は説明した。
ハラスメントは動画で止まらなかった。6か月後、ハンター氏はさらに15枚のAI生成ディープフェイク画像を受け取り、下着姿だった。ハンター氏はまだ誰が作成したのか知らず、多くの場所ではこうしたディープフェイクの作成はまだ違法ではないとハンター氏は言う。
ハンター氏にとって、これらの攻撃は単なる個人的なハラスメント以上のものであり、民主主義システムへの直接的な脅威である。 「真実がなければ民主主義は崩壊します。真実があれば情報に基づいた決定を下すことができ、リーダーに責任を負わせることができます。これは非常に重要なことです」と彼女は語った。
ハンター氏は今後、より厳しいAI規制を提唱し、テクノロジーに倫理原則が最初から組み込まれることを望んでいる。
「AIは人間の価値観を備えた人間的なテクノロジーであり、私たちの生活を補完して私たちを最高の自分に変えることができると強く感じています」と彼女は説明した。「しかし、そのためには、このテクノロジーに倫理を組み込み、偏見を排除し、共感を植え付け、人間の価値観や人間の原則に沿っていることを確認する必要があると思います。」
説得力のあるディープフェイクの作成は日々容易になっています
ハンター氏の経験は、ディープフェイク攻撃の不穏なパターンに加わっています圧倒的に女性をターゲットにしています。この問題は、2017年に匿名のRedditユーザーが有名人の偽ポルノ動画を投稿し始めたときに初めて発生しましたユーザー名「deepfakes」で、この技術の名前の由来。
それ以来、説得力のあるディープフェイクの作成はますますシンプルでアクセスしやすくなりました。現在、被害者は有名人をはるかに超え、未成年者もターゲットになっています。ハンターのケースは、この技術が公の場に足を踏み入れた女性への嫌がらせや脅迫に武器として利用される可能性があることを示しています。