Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

インシデント 268: Permanent Removal of Social Media Content via Automated Tools Allegedly Prevented Investigative Efforts

概要: Automated permanent removal of violating social media content, such as terrorism, violent extremism, and hate speech, without archival has allegedly hindered the potential use of this content for investigating serious crimes and hampered efforts in criminal accountability.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
推定: YouTube , Twitter と Facebookが開発し提供したAIシステムで、victims of crimes documented on social media , investigative journalists , International Criminal Court investigators , International Court of Justice investigators と criminal investigatorsに影響を与えた

インシデントのステータス

インシデントID
268
レポート数
4
インシデント発生日
2020-03-16
エディタ
Khoa Lam, Daniel Atherton
Applied Taxonomies
GMF, MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

インシデントレポート

レポートタイムライン

Incident Occurrence「失われた記憶」:戦争犯罪の証拠がAIによるモデレーションで脅かされる+1
Social Media Platforms Remove War Crimes Evidence
AI: ソーシャルメディアプラットフォームによって戦争犯罪の証拠が消去される
「失われた記憶」:戦争犯罪の証拠がAIによるモデレーションで脅かされる

「失われた記憶」:戦争犯罪の証拠がAIによるモデレーションで脅かされる

reuters.com

Social Media Platforms Remove War Crimes Evidence

Social Media Platforms Remove War Crimes Evidence

hrw.org

“Video Unavailable”

“Video Unavailable”

hrw.org

AI: ソーシャルメディアプラットフォームによって戦争犯罪の証拠が消去される

AI: ソーシャルメディアプラットフォームによって戦争犯罪の証拠が消去される

bbc.com

「失われた記憶」:戦争犯罪の証拠がAIによるモデレーションで脅かされる
reuters.com · 2020
自動翻訳済み

ニューヨーク/アンマン(トムソン・ロイター財団) - 爆撃や抗議活動から新しい医療センターの開設まで、学生ジャーナリストのバラ・ラズーク氏はシリアのイドリブでの日常生活を何年も記録し、自身のYouTubeアカウントに動画を投稿してきた。

しかし今月、この21歳の学生のもとにYouTubeから自動メールが届き、動画がポリシーに違反しており削除されるという警告が届いた。今月の時点で、10本以上の動画が削除されたと同氏は語った。

「(シリアの)抗議活動を動画で記録することは本当に重…

Social Media Platforms Remove War Crimes Evidence
hrw.org · 2020

Social media platforms are taking down online content they consider terrorist, violently extremist, or hateful in a way that prevents its potential use to investigate serious crimes, including war crimes, Human Rights Watch said in a report…

“Video Unavailable”
hrw.org · 2020

In recent years, social media platforms have been taking down online content more often and more quickly, often in response to the demands of governments, but in a way that prevents the use of that content to investigate people suspected of…

AI: ソーシャルメディアプラットフォームによって戦争犯罪の証拠が消去される
bbc.com · 2023
自動翻訳済み

BBC は、テクノロジー企業によって削除された後、潜在的な人権侵害の証拠が失われる可能性があることを発見した。

プラットフォームは、多くの場合人工知能を使用して、残酷な動画を削除しますが、起訴に役立つ可能性のある映像はアーカイブされずに削除される可能性があります。

Meta と YouTube は、証言する義務と有害なコンテンツからユーザーを保護する義務のバランスを取ることを目指していると述べている。

しかし、Meta の監視委員会のメンバーであるアラン・ラスブリッジャー氏は…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

Selected by our editors
Opera's GPT-Based AI Reportedly Accused War Photographers of War Crimes

Instagram post: @tomasvh

May 2023 · 1 レポート
前のインシデント次のインシデント

よく似たインシデント

Selected by our editors
Opera's GPT-Based AI Reportedly Accused War Photographers of War Crimes

Instagram post: @tomasvh

May 2023 · 1 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • ecd56df