概要: オランダ警察の報告によると、子どもたちがAIツールと称するツールを使って、自宅にホームレスの侵入者がいるという偽の動画を作成し、親たちはそれを本物だと信じ込んでいたという。この動画により、数十件の緊急出動と、少なくとも2回のヘリコプターによる捜索が行われ、実在しない窃盗犯の捜索につながったとされている。警察は誤報が相次いだことを受け、TikTokで警告を発し、警察の人員が逼迫していることを指摘し、家族にいたずらをやめるよう促した。
Editor Notes: See also Incident 1225: Purportedly AI-Generated 'Home Invasion Prank' Images Reportedly Circulate in Ireland, Causing Panic and False Emergency Calls.
Alleged: Deepfake technology developers developed an AI system deployed by Unknown pranksters と Unknown pranksters in the Netherlands, which harmed Dutch police , General public , General public of the Netherlands , Epistemic integrity と Dutch municipal resources.
関与が疑われるAIシステム: Deepfake technology
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
3.1. False or misleading information
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Misinformation
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
オランダ警察は、ホームレスの強盗が自宅に侵入したという偽動画をTikTokに投稿した若者に対し、通報が相次いだことを受け、投稿しないよう呼びかけている。
警察によると、AIが生成した侵入者を映した動画を子供たちが送信したといういたずらに遭ったと心配する親たちから、数十回も通報があったという。
少なくとも2回、親たちが盗品を盗んだと勘違いしたため、警察のヘリコプターが出動し、近隣で謎の強盗犯の捜索が行われた。
制服警官が投稿した「politie Frans」という動画には、警官…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく 、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？