Description: A phishing campaign has reportedly been impersonating Meta support using a fake chatbot interface to hijack Instagram Business accounts. Victims received emails claiming ad violations and were directed to a fraudulent site mimicking Meta's support. There, a simulated chatbot instructed users to add the attacker’s Authenticator app as a secure login method, enabling account takeover. It remains unclear whether the chatbot used AI or was human-operated via a bot-like interface. See editor's note.
Editor Notes: Some ambiguity in the reporting exists over whether the alleged chatbot interface is an actual chatbot or a human-operated interface mimicking one. In the former case, this would constitute a more clear-cut AI incident. In the latter, it may represent a newer category of AI incident—one in which attackers exploit emerging user expectations around automated systems by mimicking the interaction patterns of AI-driven support tools.
Alleged: Unknown generative AI developers developed an AI system deployed by Scammers impersonating Meta support , scammers , Phishers と Fraudsters, which harmed Meta users , Instagram users と Instagram Business users.
関与が疑われるAIシステム: Unknown chatbot interface と Instagram
インシデントのステータス
インシデントID
999
レポート数
2
インシデント発生日
2025-03-12
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
ソーシャル メディアはマーケティングで広く利用されており、企業が潜在顧客を引き付ける広告を作成するのに役立ちます。しかし、「広告は一時的に停止されています」というメールを受け取ったらどうしますか? どのような手順を踏みますか? メールの緊急性にすぐに注意が引かれ、クリックして調べ、すぐに修正されることを願うのが最初の考えかもしれません。しかし、問題を解決する代わりに、ビジネス アカウントがハッキングされる可能性があります。Cofense Phishing Defense Ce…

新しいフィッシング キャンペーンにより、ユーザーを騙して Meta Business アカウント、特に Instagram へのアクセス権を渡すように仕向けています。Cofense Phishing Defense Center によって検出されたこの詐欺では、偽のチャット サポート、詳細な手順、および安全なログイン方法としての追加を試みてビジネス アカウントを乗っ取ろうとする行為が使用されています。
このフィッシング キャンペーンは、広告法違反のためユーザーの広告が停止され…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents