Thai PBS Verifyは、Thai PBS World Tonightのロゴを偽装した偽広告を発見しました。AIディープフェイク技術を用いて有名ニュースキャスターや実業家になりすまし、CRYSTALLUM AIと呼ばれるスキームへの投資を勧誘していました。しかし、元の動画は実際には2013年の洪水に関するニュース記事でした。被害者は、金銭的損失や詐欺につながる可能性があるため、騙されないよう警告しています。
Thai PBS Verifyは、この偽ニュースの出所がFacebookで あることを発見しました。
偽投稿のスクリーンショット
Thai PBS Verifyは、「Muscle Merge」というFacebookページがThai PBS World Tonightのロゴを使用していることを発見しました。同社は、セントラルグループのトス・チラティワット会長とタイ商工会議所・貿易委員会のカリン・サラシン名誉会長へのインタビュー動画を公開しました。動画の内容は、「CRYSTALLUM AI」というプロジェクトへの投資を促しています。この動画はFacebook広告を通じて配信され、1,200件以上の「いいね！」を獲得しています。
確認の結果、動画に登場していたニュースキャスターは、元NHKワールドのニュースキャスター、パッチャリ・ラクサウォン氏であることが判明しました。質問に対し、パッチャリ氏はタイPBSのニュースキャスターを務めたことはなく、英語教育関連の番組に出演したことがあるだけで、同局のニュースキャスターを務めたことはないと述べました。
元NHKワールドニュースキャスター、パッチャリ・ラクサウォン氏
ラクサウォン氏にとって、AIディープフェイクに自身の画像が利用されたのは初めての経験でした。テクノロジーには精通していましたが、これほどネガティブな文脈で利用されたことは初めてでした。自身の画像が、他者に危害を与え、自身の評判を傷つける可能性があるため、人々を騙して投資に誘うために利用されたことに衝撃を受けました。彼女は、このような形で誰も騙されないように、声を上げる必要があると感じまし た。また、彼女は、AIの諸刃の剣について、すべての人にもっと知ってほしいと考えています。AIは効率化のための優れたツールとなり得る一方で、悪意のある目的、特に他者に危害を与える詐欺にも利用される可能性があるからです。
彼女は、使用された映像は、バンコクにアジア太平洋支局を持つ日本の報道機関NHKで自身が数年間勤務していた際に作成した古いニュースレポートからのものだと考えています。彼女は、悪意のある人物がインターネットで古い映像を見つけ、ディープフェイクの作成に使用したのではないかと疑っています。彼女は、NHKでの自身の仕事は常に英語で、タイ語では決してなかったと明言しました。
最後に、彼女は視聴者に対し、この種のニュースを信じる前に慎重に判断し、情報源を慎重に確認するよう促しました。情報の信憑性を確認するために、2、3回再確認することの重要性を強調しました。
元の映像は洪水に関するニュースレポートでした。
パッチャリ氏のインタビューで、彼女はこの映像がNHK WORLDのキャスター時代に撮影された可能性があると示唆していたため、私たちは「Patchari Raksawong NHK WORLD」というキーワードを使用してGoogle検索エンジンで元の動画を検索しました。この検索により、元の動画が見つかりました。これはプラナコーン・シー・アユタヤ県の洪水に関するニュース報道でした。この動画は2013年2月28日にハビタット・フォー・ヒューマニティ・タイランド財団のYouTubeチャンネル「Join Us to Do Good for Society」で公開されたもので、利益を約束する投資勧誘とは一切関係がありません。
キーワードの検索結果で、AIディープフェイク画像の作成に使用された動画が見つかりました。
2つの動画を比較したところ、使用された動画のロゴがタイPBSチャンネルのロゴに変更され、言語も英語のニュース報道からAIによる合成タイ語音声に変更されていることがわかりました。
タイのPBSワールド・トゥナイトのロゴが重ねられた偽動画（左）と、2013年の洪水被災者のための住宅建設に関するニュース記事（右）を比較したスクリーンショット。
検証ツールがAI作成動画であることを確認
この動画をHIVEMODERATIONのAI検出ツールで検証したところ、AIディープフェイクである確率が72.3%と高いことが判明しました。
AI画像検出ツールの結果、この動画がAIによって作成された確率は72.3%であることが判明しました。
タイのPBSワールド・トゥナイトは、英語のみでニュースを報道しています。
タイPBSワールドのディレクターであるแคลร์ ปัจฉิมานนท์は、視聴者やこの動画を見た人がこれを本物だと信じてしまうのではないかと個人的な懸念を表明しました。彼女は、タイPBSワールドのキャスターの映像が、過去に何度かネガティブなAIディープフェイクの作成に利用されたこ とがあると述べました。しかし、この動画に登場しているパッチャリ氏は、タイPBSワールドのキャスターではありません。
タイPBSワールドのディレクター、クレア・パチマノン氏
彼女はまた、次のように述べました。
タイPBSワールドの番組はタイ語で放送されていません。タイPBSワールド・トゥナイトは、英語のみで報道する週刊ニュース要約番組です。したがって、他の言語で報道された場合は、直ちに偽のクリップであると判断する必要があります。
このようなクリップを見つけて疑わしい場合は、タイPBSチームに送信して確認を求めることができます。チームが明確に伝えたいのは、タイPBSは非営利団体であるということです。このようなクリップを見た場合は、直ちに疑念を抱き、偽物ではないかと疑うべきだということを、皆様にご理解いただきたいと考えています。
タイの PBS ワールドのニュースキャスターがディープフェイク使用の被害に遭ったのはこれが初めてではありません
誤ったニュースを広めるため。例: 検証済み: 「アン」に関するタイの PBS アンカーのレポートのクリップ
Jakrajutatip「[1 か月で 500,000 バーツの収益をもたらす投資の勧誘は、実際にはディープフェイクによって作成されました。 PBS รายงานข่าว "แอน จักรพงษ์" 5 つ星 1 つ星ディープフェイク
セントラルグループ、偽の投資クリップを警告
一方、セントラルグループのフェイスブックページはこの問題について次のように投稿した。ニュース](https://perma.cc/4676-8LRP)
警告！ セントラルグループが警告を発令!! 悪意のある人物が様々なオンラインプラットフォーム上で虚偽の情報を用いて社名や担当者を偽り、一般の人々を投資に誘い込むケースが見受けられます。セントラルグループは、このような方法で外部の個人に投資を勧誘する方針を定めていません。これらのリンクを信じたり、共有したり、クリックしたりしないようお願いいたします。
セントラルグループのFacebookページがフェイクニュースに関する警告を投稿
ディープフェイクを規制する現行法タイ
コンピュータ関連犯罪法（B.E. 2560 (2017)）第16条は、「他人の画像として表示されるコンピュータデータを、電子的手段またはその他の手段によって作成、追加、または改変し、他人の名誉を失墜させ、屈辱を与え、憎悪に晒し、または不名誉を傷つける可能性のある方法で、公衆がアクセス可能なコンピュータシステムにインポートした者は、3年以下の懲役および20万バーツ以下の罰金に処される」と規定しています。 刑法の名誉毀損、侮辱、およびわいせつな媒体の頒布に関する条項。 個人データ保護法（PDPA）は、個人情報（顔、氏名、声など）を同意なく使用することを禁止しています。 被害者が未成年の場合、人身売買防止法または児童保護法に基づく犯罪に該当する可能性があります。
＞ この件の調査からこの件に関して、Thai PBS Verifyは、このニュースが虚偽であると判断しました 。AIディープフェイクが使用され、Thai PBS Worldのニュースキャスターと著名なビジネスマンの画像と音声が偽装され、最大5倍のリターンが得られる投資勧誘を謳うクリップの内容と組み合わされていました。
กระบวนการตรวจสอบ
■ Google検索エンジンで「Patchari Raksawong NHK WORLD」というキーワードを使用して調査した結果、元の動画が発見されました。この動画は、リターンを提供する投資勧誘とは一切関係がありません。 ■ クリップに関与した個人からの確認
AIディープフェイク技術によって個人データが使用された被害者から確認を得ました。さらに、Thai PBS WorldとCentral Groupに問い合わせを行い、この番組はタイ語と中国語で報道していないことを確認しました。なりすましの対象となったビジネスマンは、当該動画に関与していないこと。
■ AI画像検出ツールを用いた調査 AIディープフェイクによって当該動画が作成された可能性が最大72.3%と高いことが判明しました。
この虚偽情報の影響
■ メディアやニュースキャスターの信頼性を損なう。 ■ 人々がコンテンツに誤解したり、誤った理解をしたりした場合、ニュース局やメディア全体の信頼性の低下につながる可能性があります。 ■ 個人の権利を侵害する。他人の顔や声を許可なく使用することは、個人の権利の侵害であり、違法です。 ■ 詐欺師が活動する手段を生み出す。偽の動画は、詐欺や商品の偽装販売などの詐欺行為の作成・配信に広く利用される可能性があります。製品。
ข้อแนะนำเมื่อได้ข้อมูลเท็จนี้ ？
虚偽の情報を発見した場合の推奨事項
1. 直ちに証拠を収集する：詐欺師によってプライベート画像が使用された人物に連絡してください。 編集された画像、動画、または関連メッセージと、それらが公開された時刻を保存してください。チャットグループやソーシャルメディアで共有された場合は、チャット履歴と投稿のURLを保存してください。 2. プラットフォーム（Facebook、YouTube、TikTok）で報告する：コンテンツが公開されたプラットフォーム（Facebook、X、またはTikTok）に報告して、コンテンツを削除してもらってください。 3. 報告または相談する関係機関 画像や音声が使用された被害者の方は、警察署またはサイバー犯罪捜査局（CCIB）に届け出てください。また、デジタル経済社会省（DE）などの関係機関に連絡して、データの削除に関する支援を依頼したり、サイバー犯罪ホットライン（1212）に電話したりすることもできます。 4. AIディープフェイク動画の見分け方
■ 異常な唇の動きに注意してください。 ■ 動画内の声のアクセントに注目してください。 ■ 動画全体を観察し、写真や動画に映っている物や人物に異常がないか確認してください。 ■ 事件の可能性を検討してください。例えば、今回のケースでは、寺院や王宮を思わせる背景での集会の様子が動画に映っていましたが、これは現実には起こり得ないことです。