概要: 音声認証スタートアップのPindrop Securityは、求職者がディープフェイクソフトウェアやその他のAIツールを使って詐欺を企てたと報告しました。これは、AIツールを使って米国のリモートワークの求人に応募する国際的な詐欺師の増加傾向の一環であり、時には成功しているケースもあります。
Editor Notes: Please also refer to Incidents 1117 and in particular 1118 for information on alleged North Korean remote workers using generative AI tools to secure remote work positions in Western countries.
Alleged: Unknown generative AI developers と Unknown deepfake technology developers developed an AI system deployed by Unknown international job applicants と Unknown scammers, which harmed Pindrop Security と Companies hiring for remote positions.
関与が疑われるAIシステム: AI deepfake generation tools と Unknown deepfake technology
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
Pindrop Securityが提供した画像には、同社が「イヴァンX」と名付けた偽の求職者が写っている。この人物はディープフェイクAI技術を使って顔を隠していたと、PindropのCEO、ヴィジェイ・バラスブラマニアン氏は述べている。
音声認証スタートアップ企業Pindrop Securityが最近求人広告を出した際、数百人の候補者の中から一際目立つ人物がいた。
この応募者はロシア人のプログラマー、イヴァン氏で、シニアエンジニア職に必要な資格をすべて備えているように見えた。…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
