関連インシデント
ああ、人工知能、またやってくれましたね。
テクノロジーとAIは急速に進歩しており、オンライン上で本物と偽物の区別がつかなくなるほどです。
最近、XではAI動画が話題になっており、そのリアルさに何百万人ものユーザーが衝撃を受けています。
バイラル「Hawk Tuah」動画を不気味に模倣したストリート動画が多くの人の注目を集めていますが、その動画がすべてGoogleの「最先端の動画生成モデル」であるVeo 3で作成されたものであることを知って、人々は衝撃を受けています。
しかし、混乱はまだ始まったばかりのようです。女性がカメラに向かってささやく動画など、他の動画もユーザーに衝撃を与えています。
しかし、詐欺師たちもこの詐欺に気づき始めており、今年初めには偽ブラッド・ピットに騙されて70万ポンドを騙し取られた女性がいます。
そして今、ある女性がRedditで、自分の母親が同じような詐欺に遭いそうだと訴えています。
r/Scamsグループに書き込んだ彼女は、「たくさんの危険信号」を挙げ、母親に自分が詐欺に遭っていることを納得させるための助けを求めています。
ユーザーの母親は、彼女が『カーズ』や『ウェディング・クラッシャーズ』などの作品で知られる俳優オーウェン・ウィルソンと話していると信じている。
ただしネタバレ注意：それは彼ではなく、「証拠」として送られてきた動画は明らかにAIによるものだ。
「妹と私は彼女にこれは詐欺だと伝えているのですが、彼女は私たちの言うことを聞いてくれないんです」と彼女は語った。
ユーザーはこう説明した。「彼女はヤッツィー・ウィズ・フレンズで彼と出会ったんです。彼は彼女を実生活で知り合いだと勘違いしたと言っています。WhatsAppか音声通話でしか彼女と話しません。
「彼女はFaceTimeも使っていると言っていますが、私は疑っています。」
彼女は、送られてきたウィルソンの写真はインターネットやファンアカウントで簡単に見つけられたと付け加えた。
彼女の母親は、彼から金銭や銀行口座の情報は求められなかったものの、ワーナー・ブラザースでの仕事を紹介してもらえたと主張している。そこでは「ソーシャルメディアの投稿に『いいね』するだけで月5000ドル稼げる」とのことだ。
「その仕事で、最初のトレーニング費用としてCashappを通じて10ドルが数回支払われたそうです。」 「トレーニングが終わったらCashAppで1,000ドル送ってくれるって言ってる」と彼女は続けた。
このユーザーは、「オーウェン・ウィルソン」という人物が彼女の母親に、海辺の小さな町に家を買うつもりで、自分がいない間は彼女の両親にそこに住んで世話をしてほしいと話したという。
彼女はさらに、「彼は、このゲートコミュニティの不動産業者に 電話をかけてきて、選択肢について話し合った」と付け加えた。
しかし、この部分は彼女にとって信憑性があった。不動産業者は「義理の妹の母親の珍しい名前を言った」と語っていたからだ。ソーシャルメディアでは繋がりがないにもかかわらずだ。
しかも、上記の動画は彼が実在する「証拠」として送られたもので、ユーザーはグループ内の他のユーザーにアドバイスを求め、母親に全てが偽物だと納得させようとした。
あるユーザーは、「うわ、怖い。口調がおかしくてロボットみたいだ」と指摘した。フェイスもオーウェンと少し違うように見えますが、よくわからない人からしたら、それはすごいことですよ。」
別の人は「残念ながら、状況は悪化する一方です。ディープフェイクの精度は向上し続けるでしょう」と述べ、さらに別の人は「なんてイライラする状況でしょう。
「彼女を疎外させないように注意してください。状況がさらに悪化する可能性があります。」とアドバイスしました。