概要: ノースカロライナ州ロッキンガム郡の10代の若者を狙った、AIを利用したとされる詐欺行為が発生。偽の見出しと地元の学生の肖像画像を用いて、ユーザーを悪質なウェブサイトへ誘導していたと報じられている。保安官事務所とProxywareによると、この攻撃には南アフリカの中央集権的な組織と連携する約100のウェブサイトが関与していた。ユーザーが学生または地元民であると特定されると、これらのサイトは有害な広告やマルウェアを展開したと報告されている。当局は、ユーザーを操るためにセンセーショナルなコンテンツが利用されていると警告している。
Alleged: Unknown developed an AI system deployed by Unknown scam network based in South Africa, which harmed Students of Rockingham County, North Carolina , Residents of Rockingham County, North Carolina と Families of students of Rockingham County, North Carolina.
関与が疑われるAIシステム: Unknown generative AI technology
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
ノースカロライナ州ロッキンガム郡 --- AIが生成した偽の見出しを使って地元の学生を危険なウェブサイトに誘い込む、新たなオンライン詐欺が横行していると、ロッキンガム郡保安官事務所は金曜日のFacebook投稿で保護者と10代の若者に警告しました。(https://www.facebook.com/story.php?story_fbid=1104661351704643&id=100064823647307&mibextid=wwXIfr&rdid=dVVWZeLIjwzo…
Loading...
ロッキンガム郡の学生や10代の若者を標的とした、懸念すべきオンラインキャンペーンが確認されました。このキャンペーンは、AIが作成したクリックベイトを用いて、有害なポップアップ広告を表示したり、訪問者がターゲット地域の学生または住民であると特定されると悪意のある攻撃を仕掛けたりするウェブサイトへ誘導します。今回のケースでは、学生の肖像がキャンペーン開始のきっかけとして利用されました。
デジタル市民保護会社であるProxywareは調査を行い、同じトラッキングコードを使用している…
Loading...