AI によって生成されたニコス・フリストドゥリデス大統領、実業家、著名人になりすました動画がキプロス国民から数千ユーロを詐取しており、当局は、増大する脅威から国民を守る手段がないと警告している。
キプロスでは約15人が、フリストドゥリデス大統領が政治家のアヴェロフ・ネオフィトゥ氏とハリス・ジョージアデス氏と共に、すべての人々の繁栄を約束する偽の投資プラットフォームを宣伝するディープフェイク動画に騙され、1万ユーロから1万5000ユーロの被害を受けた。
デジタルセキュリティ庁のギオルゴス・ミハイリディス長官は、悪意のあるAIから人々を守るためのツールやメカニズムは存在しないと述べた。
「自分自身を守るのは非常に困難です。非常に注意深く観察する必要があります。例えば、手や指などを見てください。すでに非常に困難ですが、今後数年間で人工知能が発達し、ますます高性能化するにつれて、さらに困難になるでしょう」とミハイリディス氏は述べた。
詐欺師たちは、数ヶ月にわたって著名人を起用し、自分たちの計画に信憑性を与えてきた。
3月には、easyGroupの創設者であるステリオス・ハジ＝イオアヌー卿が、自身のイメージと社名を使った仮想通貨詐欺について国民に警告した。
この誤解を招くオンライン広告は、「easyProfit」という偽の会社に登録するよう人々に促し、仮想通貨と外国為替取引で最大96%の利益を約束していた。
歌手のアンナ・ヴィッシ氏と欧州中央銀行（ECB）のクリスティーヌ・ラガルド総裁も同様の投資詐欺動画に出演していた。
7月、実業家のジョン・クリストドゥルー氏は、個人アカウントに詐欺への参加を促す詐欺動画を投稿しました。「私ではありません」と彼は断言しました。
8月には、フィレレフテロス氏を装った偽のFacebookページが、ギリシャの司会者サキス・タニマニディス氏を名乗り、高額の金銭的利益を約束するアプリのダウンロードを国民に促しました。
イースターには、ドナルド・トランプ氏がキプロス国民に「良いソウブラ（良い土産）」を祝福し、トルコ人を海に引きずり込むと約束する動画が英語で拡散されました。クリストス・クリストフィディス議員は、トランプ氏がキプロスを救ってくれると熱狂的に信じ、数え切れないほどの人々がこの動画を送ってきたと述べています。
「トランプ氏が私たちを救ってくれると、どれほど多くの人が私に興奮して送ってきたか、想像もできません」とクリストフィディス議員は語りました。
AI詐欺は様々な形をとるとミハイリディス議員は述べています。電話の音声、動画、写真、チャットやその他のメッセージに書かれたテキストなどが詐欺の手口となる可能性があります。InstagramやFacebookでやり取りしている人は、実際の人間ではなくAIと話している可能性があります。
専門家でさえ、それらを検知するためのツールやメカニズムが不足していると、彼は述べた。
最近トルコで発生した大地震の際、ギリシャの救助隊員が、救出したばかりの子供を抱いている写真が拡散した。しかし、救助隊員の手を見れば、6本の指があることに気づくだろうと、ミハイリディス氏は述べた。
人々が具体的に何に注意すべきかを示したマニュアルは存在しないと彼は述べた。何かおかしい点があれば、注意深く見守る必要がある。
欧州連合（EU）はAI生成コンテンツのラベル表示義務化に関する議論を開始したと、ミハイリディス氏は述べた。しかし、これは善意で使用される正当なAIツールにのみ適用される。悪意を持って人々を欺くためにAIを使用する者は、ラベル表示の要件を遵守しないだろう。
市民は情報を確認しなければならないと彼は述べた。「念のため、確認の電話をするのが良いでしょう。」
AI技術は進歩していると、ミハイリディス氏は述べた。個人や企業を攻撃するためのマルウェアやウイルスを入手するため、サブスクリプション料金を支払う人がいるかもしれない。「AI分野における犯罪行為がどれほ ど進歩しているかは信じられないほどです」と彼は述べた。
AIを通じたソーシャルエンジニアリングはますます頻繁に発生していると、ミハイリディス氏は述べた。これは、AIを用いて人々を操作し、心理的に影響を与え、特定の行動や振る舞いに誘導することを目的とした行為である。ドナルド・トランプ氏を選出した米国大統領選挙や英国のEU離脱国民投票でも、同様の事例が見られたようだと、ミハイリディス氏は述べた。こうした行為の背後には、詐欺師だけでなく、国家が関与している可能性もある。
ミハイリディス氏は、今最も重要な行動は国民への情報提供だと指摘した。「たとえ現実に見えても、人々は目にしたものを信じてはならない。確認する必要がある」と同氏は述べた。
「注意を怠れば、私たちは人工知能のなすがままになってしまう。確認と捜査が必要だ。それは私たち自身にかかっている」と同氏は述べた。
クリストフィディス氏は最近、AI関連のコンテンツにおいて、本人の同意なしに人物を利用することを犯罪とする法案を提出した。
「最近、有名なプレゼンターがダイエット商品について人々に話している動画を見ました。あまりにもリアルだったので、3回も見返しました。AI編集だと結論づけました。今は見分けがつくかもしれませんが、1、2年後に完成すれば、AI編集だとは分からなくなるでしょう」とクリストフィディス氏は述べた。
市民を保護するための法律に欠陥があると同氏は指摘した。
欧州連合（EU）はソーシャルメディアプラットフォームに対し、AIコンテンツにラベルを貼ることを義務付けるべきだとクリストフィディス氏 は述べた。そして、プロパガンダ動画やリベンジ動画が蔓延するのではないかと懸念を示した。