政党は偽の録音や映像を使って直接協力し合ったが、裏では無名の俳優も協力していた。彼らはまた、モラトリアムを乱用した。
ほぼオンデマンドで画像、ビデオ、または音声録音を作成できる、いわゆる生成型人工知能のツールの台頭により、次のような機密性の高い状況での悪用に対する正当な懸念が生じています。選挙 。
時期尚早の議会選挙は、前述のツールが広く一般の人々の手に渡って以来初めての選 挙でした。そして多くの人が予想していた通り、彼らの虐待は実際に起こりました。しかし、最終的には大規模ではなく、彼らの可能性は明らかに発揮されませんでした。
それにもかかわらず、選挙戦の最後の数日間は、いくつかの興味深い教訓、発見、そして将来への警告をもたらしました。おそらくすぐに何が私たちを待っているのでしょうか？ 記事では次のように書かれています。
- 選挙運動の終わりにどのような具体的な操作された資料が広められたか。
- どのような形式で配布され、その内容と目的は何でしたか。
- 人工知能の開発に協力し、政敵の票を乱用したのはどの政党ですか。
- 偽物の素材の主な弱点は何でしたか、またその逆の場合、最も強い武器は何でしたか。
- 主な教訓は何ですか、来年の次の選挙で何が期待できるか、そして有権者自身が状況をどのように悪化させる可能性がありますか。
「その類似性はまったくの偶然です」
選挙前のキャンペーンには多くの偽情報が含まれていましたが、人工知能の助けを借りて作成された意図的に編集された録音や音声が登場したのは、まさにその最終回だけでした。
選挙のわずか5日前に、極右のレプブリカ運動はこのようにして互いに助け合った。同誌は、LGBTI コミュニティを攻撃し、ズザナ・チャプトバ大統領と進歩スロバキア指導者ミハル・シメチカの信頼できる声真似を使用した 2 つの宣伝スポットを公開しました。
「この場所の声は架空のもので、実際の人々と似ているのは全くの偶然です。それでも、共和国に投票してください」という声がビデオで聞こえ、チャプト バ氏とシメチカ氏は提示された主張を決して行っていないことを認めた。
大規模なデジタル プラットフォームには、いわゆるディープフェイク、つまり人工的に作成または操作されたコンテンツに対して比較的厳格なルールがあります。ただし、コンテンツが本物ではないことを著者が認めた場合、彼らは通常見て見ぬふりをします。
これは共和国の場合でもありました。フェイスブックを運営するメタ社は極右運動の動画を上映した。彼女は、ビデオの中の人々の声は現実のものではなく、風刺として捉えているという警告を考慮に入れました。非政府組織Memo 98のRasťo Kužel氏は、操作キャンペーンの内容に関してMeta氏と連絡を取ったŽivé.skの編集者にこのことを認めた。
彼らは限界まで行きました
ビデオ [過激派メディア Kulturblog のワークショップから] (https://zive.aktuality.sk/clanok/VASIltm/sud-udajne-rozhodol-ze-kulturblog-su-extremisti-a-odsudil-mazurekovho-asistenta/)選挙の一週間前に、独自に加工されたチャプトバ大統領の音声録音を公開した。
「Kulturblogの番組を定期的かつ長期的に監視した結果、私は次の選挙でミラン・マズレクへの支持を表明することに決めました。共和国の候補者リストの150番に丸を付けてください」と、録音された大統領の偽造された声が言った。
録音自体には、人工知能の仕業であるという警告は含まれていません。 Kulturblog はこのことを、[Telegram で] 公開した録音のテキスト説明の中でのみ述べています (https://zive.aktuality.sk/clanok/XdaPqhh/sloboda-slova-po-rusky-co-je-telegram-a- ako-works/)。偽物であるという情報がなければ、さらに拡散する可能性があります。
Kulturblog が共和国を支持して録音を作成したことはまったく驚くべきことではありません。彼の[共和国との個人的および経済的つながりは長い間知られていた] (https://zive.aktuality.sk/clanok/zoTm0wz/google-pred-volbami-zavaril-republike-z-youtube-zmazal-mazureka-kulturblog -a-その他/)。 Milan Uhrík と Milan Mazurek は、Kulturblog で独自の定期番組を持っています。
私たちのビールには触らないでください！
しかし、真に悪質なコンテンツがソーシャル メディア上に出現したのは、モラトリアムが近づいてからです。 9月26日火曜日、プログレシヴネ・スロヴェンスコに対する直接攻撃があった。そのビデオは、ビールの価格を70から100パーセント値上げするというPSの捏造された意図を示すビデオだった。
より多くの聴衆に届く（そして影響を与える）可能性を秘めた非常に単純な嘘が、どうやらミハル・シメチカ自身によって提示されたようだ。 「したがって、ビール価格の大幅な値上げは進歩スロバキアの重要なポイントの1つであり、これは進歩スロバキア主導の政府が最初に実施することの1つになるだろう」と偽の声は言った。
Republika のコンテンツの場合と同様に、ここでも、イラスト付きのビデオの形式で配布された偽の音声でした。そのため、私たちはシメチカ氏が直接話すのを見たわけではなく、彼の写真とビール 1 パイントのイラストを背景に彼が話すのを聞いただけでした。
このビデオは、コトレブの極右 ĽSNS の元候補者、ルドルフ・フリアクが共有したという事実のおかげで急速に広まった。彼は最終的に土曜日に議会に復帰した /vysledky-volieb-2023 -look-at-the-list-of-elected-deputies-to-nr-sr/) を SNS 候補者に掲載します (彼はメンバーではありません)。
タイミングが鍵だった
ビールの話題に関しては、比較的簡単に反駁できる主張だった。PSの番組には同様の内容はなく、シメカ氏も選挙前のインタビューで同様の内容には一切触れていない。
しかし、次の攻撃の場合はそれほど簡単ではありませんでした。攻撃はすでに一時停止期間中の9月28日木曜日に大規模に広がり始めました。
繰り返しますが、それは音声を含むビデオであり、その背景には「主人公」であるミハル・シメチカとデニックN出身のジャーナリストであるモニカ・トドヴァの写真の形をした静止画像がありました。言及された人物間の電話での会話では、議題は投票用紙の操作とジャーナリストへの報酬についてであった。
ここで状況はさらに複雑になりました。その時点で、前回の選挙前の世論調査ではすでに進歩スロバキアがスメルSDに対する直接の挑戦者の立場に位置していた。発明された秘密録音は、党の信用を傷つけ、おそらくは選挙での成功を傷つけることを目的としたものであった。
さらに、一時停止期間中は、候補者自身だけでなくメディアも選択肢が限られています。彼らは選挙に関連するものを出版することはできません。それどころか、一時停止期間に違反しないように、すべての言葉を慎重に検討する必要があります。
これにより、このトピックに関するニュース記事の出版が遅れる可能性があります。 opinovljit-hlasovanie-ludi /)。さらに、デマに対する独立した反論には時間がかかり、選挙日直前というメディアにとって敏感な時期に、真実の情報が流出する可能性がある。すべての有権者に期限内に届けられない。
したがって、このような戦略的にタイミングを計った攻撃は、意図された目的を達成し、人口の特定の部分に影響を与える可能性があります。しかし同時に、これは政治家、メディア、あるいは選挙プロセスの完全性を監督する当局や機関にとっては将来への教訓でもある。
低品質ですか？それで十分な場合もあります
操作ビデオは何人の人に影響を与えることができるでしょうか?これを推定するのは困難です。しかし、疑わしい行為者が人工知能の可能性を最大限に活用した場合に可能となるほどではないことは確かです。
その代わりに、非常に低品質の録音ができました。特に、シメチカによるトドヴァへの架空のインタビューは、全くの素人っぽいやり方で扱われた。発声は非常に不自然に聞こえ、イントネーションは「台本」とまったく一致しませんでした。衝撃的な暴露と、容疑者らの暴露の一見軽薄な態度と相まって、多くの人が彼らが話を聞いていないことは明らかでした。本格的な録音。
しかし、かなりの人が捕まってしまいました。 WhatsApp や Telegram などのコミュニケーション プラットフォームを介したコミュニティへの拡散は言うまでもなく、Facebook だけで数万のビューと数千のシェアについて話しています。これは文字通り、一部の有権者にPSが敵であると納得させるための安上がりな方法だった。
次の選挙に備えましょう
人工知能は今日すでに驚異的なことを可能 にしています。これには、多数の公的に入手可能な入力資料 (著名人の写真やビデオ、およびその音声サンプル) に基づく信頼できるコンテンツの生成が含まれます。さらに、私たちはそれについて[8月に大きな記事で]書きました(https://zive.aktuality.sk/clanok/CDMxaRJ/napodobnia-vas-hlas-i-tvar-sofistikovane-ai-podvody-skusaju-aj- na -スロバキア-しっかり/)。
選挙の直前に私たちが目にしたのは、来年の大統領選挙や欧州議会選挙の選挙運動中に遭遇する可能性のある事態のほんのかすかな兆しにすぎませんでした。
生成人工知能を使用するツールは、凶悪な行為者だけでなく、無料のものを含め、一般の人々も利用できるようになります。または、十分なセキュリティ制限が実装されていないため、悪意のあるコンテンツがさらに簡単に作成されるものもあります。
今回、偽情報提供者たちは AI の可能性を試しただけで、その結果として得られる効果と、説得力の低い偽物であっても簡単に信じてしまう人々の意欲を評価することができました。
わずか数カ月以内に、音声記録に加えて、政治家が実際には起こらなかった状況で登場するフェイクビデオにも遭遇するかもしれません。このようなディープフェイクはさらに信憑性が高くなります。結局のところ、人は自分の目で見たものをより簡単に信じます。
さらに、一般の人々がこれらのツール（特に無料形式）を利用できるようになるにつれて、有権者自身によってフェイクビデオが積極的に作成されるリスクも高まります。候補者を助けるためか、対戦相手に危害を加える目的で。
可能性はほぼ無限であり、問題はそれが本当に起こるかどうかで はなく、すでに来年の選挙で起こるか、それとも次の選挙で起こるかだ。
問題のディープフェイクのコピーについては、元のレポートを参照してください。