Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 5462

関連インシデント

インシデント 11265 Report
Reported Use of Deepfake Video Impersonating Owen Wilson in Romance Scam with Fake Job Payments

Loading...
私の母は、ネットで出会ったA級セレブに恋をしました。その動画はあまりにも本物らしくて、偽物だと信じようとしません。
dailymail.co.uk · 2025

ある女性が、母親が偽のオーウェン・ウィルソンに夢中になっているかもしれないと気づき、助けを求めました。

匿名の女性は、米国のフォーラムRedditで、このハリウッドスター(56歳)が母親に「素晴らしい女性」と話しているとされる動画を投稿し、自身の不安を訴えました。

投稿者によると、この男性が主にWhatsAppの音声通話で母親と連絡を取っているなど、「数多くの危険信号」を見つけたため、これは人工知能の仕業だと母親を説得しようとしたとのことです。

しかし、偽装者とされる人物が「彼女の母親にワーナー・ブラザーズでの仕事を紹介し」、散発的に10ドルの給料を送金してきたことで、事態は不気味なものへと変わったと彼女は説明した。

その後、「偽」オーウェン・ウィルソンは、自分が仕事で留守の間、投稿者の両親が「世話人」として見守れるよう、自分が購入した新居に引っ越してくるよう提案した。

10秒間の動画では、オーウェン・ウィルソンに似たロボットのような男性の姿が、投稿者の母親に直接話しかけているように見えた。

「この動画は、私が本物だと知ってもらうために作ったんです」と「詐欺」俳優は言った。

「あなたを傷つけるようなことは絶対にしません。出会ってからずっと、あなたの忍耐と理解に感謝しています。あなたは素晴らしい女性です。」

ある女性が、母親が偽オーウェン・ウィルソンに夢中になっているかもしれないと気づき、助けを求めています(写真:AIが生成したとされるオーウェン・ウィルソンの動画)。

この動画では、「ウェディング・クラッシャーズ」に出演したとされる俳優(実生活では先週時点では最新アクションスリラー「ランナー」の撮影でオーストラリアで忙しい)が、精巧なコンピューターグラフィックスによって作られたかのように見えました。特に、静止した目の動きと粗い顔色からそれが分かります。

女性は、自分と妹は母親にこれが壮大な「詐欺」であることを何度も伝えようとしたが、「彼女は私たちの話を聞いてくれない」と嘆いたそうです。

彼女の窮状を知った多くのユーザーは、これは確かに偽物だと同意し、あるユーザーは、姉弟に独自のAIオーウェン・ウィルソンを作り、それを証明するために彼女から金を巻き上げるよう、衝撃的なアドバイスをしました。

「姉と私は姉に詐欺だと言い聞かせているのですが、姉は私たちの言うことを聞いてくれません」と彼女は嘆きました。

彼女の母親によると、この奇妙な出会いは、友人たちとヤッツィーで偶然出会ったことがきっかけだったそうです。

具体的な場所は伏せられていますが、投稿者によると、男性はサイコロゲームで彼女の母親を見かけ、「実生活」で知り合いだと勘違いしたとのことです。

彼女はさらに、2人はWhatsApp、音声通話、FaceTimeでしか連絡を取っていなかったと説明し、2人の関係の真偽に疑問を投げかけました。

「当初、彼はソーシャルメディアのファンアカウントから直接写真を送ってきただけでした。インターネットで見つけられないようなことは何もありませんでした。 「彼はお金や銀行口座の情報を求めていない」と彼女は続けた。

匿名の女性は、米国のフォーラムRedditで、このハリウッドスター(56歳)が母親に「素晴らしい女性」と話しているとされる動画を投稿し、懸念を表明した。(写真:AIが生成したとされるオーウェン・ウィルソンの動画)

この俳優を名乗る人物が、母親に送金する代わりに、母親に送金し始めたことから、投稿者にはこの計画全体が複雑に思えた。

「彼はワーナー・ブラザースで彼女に仕事を紹介し、ソーシャルメディアの投稿に「いいね!」するだけで月5000ドル稼げるようにした」と彼女は明かした。

「この仕事は、彼女の最初のトレーニング費用として、Cash App経由で10ドルを数回送金してきた。トレーニングが終わったら、Cash App経由で1000ドルを送金してくれると彼女は言っている。」

投稿者によると、事態はさらに衝撃的な展開を見せた。「詐欺師」は、彼女の両親に、自分が購入したばかりだという家に引っ越すよう頼んだという。 

「彼は今、私たちの小さな海辺の町に家を購入していて、彼女と私の父にそこに住んでもらい、彼がいない間は世話をしてほしいと言っています。彼は、このゲートコミュニティの不動産業者に電話をかけて、選択肢について話してもらいました。

「私たちはこの部分を信じています。なぜなら、母が近所で兄の結婚披露宴が開かれると話した時、不動産業者が義理の妹の母の珍しい名前(ソーシャルメディアで彼女とは何のつながりもありません)を挙げたからです。

動画の中で、『ウェディング・クラッシャーズ』の俳優とされる人物は、高度なコンピューターグラフィックスで作られたように見えました。特に、静止した目の動きと粗い顔色からそれが分かります。

「そして彼は「証拠」として動画を添付して送ってきました。」

彼女は投稿の最後に、他のユーザーに「これが詐欺だと母に明確に証明するために」アドバイスを求めました。

ある視聴者は、この俳優の「ロボット」的な性質にすぐに気づき、「うわ、怖い。口調がおかしいし、ロボットみたい。顔もオーウェンと少し違うけど、よくわからない人にこんなことを言うなんて、信じられない」とコメントしました。

「鼻と目も…人間じゃない(笑)」と別のユーザーが同調しました。

「彼女に鼻に気をつけろって言ってあげて(笑)」とあるユーザーがコメントしました。

彼女の窮状を読んだ多くのユーザーは、これは確かにデマだと同意し、あるユーザーは、姉弟に自分たちでAIオーウェン・ウィルソンを作り、それを証明するために彼女から金を巻き上げるよう、衝撃的なアドバイスをしました。

他の「危険信号」に気づいた別のユーザーは、「このAIは女性の名前すら使わず、相手を満足させるためにありきたりな『褒め言葉』ばかり言っています。この有名人が本当に愛しているというのに、一体どれだけの相手にこのメッセージを送ったんだろう」と投稿しました。オンラインは信用せず、実際に会ってから判断しましょう。

別のユーザーは冗談めかしてこう言った。「『すごい』という言葉が3つも出てこないから、偽物だとすぐに分かるよ。彼(オーウェン・ウィルソン)は平均して2文に1つの『すごい』という言葉があるからね。」

アドバイスを求める声の中で、あるユーザーは兄弟に、自分の母親を騙して、どれだけ簡単か証明するようアドバイスした。

「母親の動画を撮って」と彼らは書いた。「AIを使って、母親が詐欺だと自分に言い聞かせている動画を作る。あるいは、AIを使ってオーウェン・ウィルソンを騙し、まず彼女からお金を騙し取って、彼女のために取っておくのもいい。」

別のユーザーは、ようやく「平穏」を得られるためのヒントを提案した。「私の意見としては、母親のデバイスにアクセスして、全員をブロックし、新しいアカウントと電話番号を作り、オーウェン・ウィルソンがアフガニスタンか何かで戦わなければならないと説明する動画を作るといい。そうすれば、数ヶ月は平穏な日々が過ごせるはずだ。」

「彼女が尊敬する人たちのリストを用意して、同じソフトウェアに通して、全く同じことを言わせて彼女に見せればいい」とある人が提案しました。

一方、あるユーザーは投稿者に「彼が彼女と別れるというAIディープフェイクを作ってみよう」とアドバイスしました。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd