Skip to Content
logologo
AI Incident Database
寄付する
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ
発見する
投稿する
  • ようこそAIIDへ
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • 空間ビュー
  • ブログ
  • AIニュースダイジェスト
  • おまかせ表示
  • サインアップ
組織

Instagram recommendation algorithm

Incidents implicated systems

インシデント 3821 Report
Instagram's Exposure of Harmful Content Allegedly Contributed to Teenage Girl's Suicide

2017-11-21

Instagram was ruled by a judge to have contributed to the death of a teenage girl in the UK allegedly through its exposure and recommendation of suicide, self-harm, and depressive content.

もっと

インシデント 9571 Report
Alleged Instagram Algorithm Malfunction Floods Users' Reels Feeds with Violent and Graphic Content

2025-02-28

An alleged Instagram algorithm malfunction caused users' Reels feeds to be overwhelmed with violent and distressing content. Many reported seeing deaths, extreme brutality, and other graphic material in rapid succession, often without prior engagement with similar content. The sudden exposure caused psychological distress for many users, with minors and vulnerable individuals particularly affected by the graphic content. Meta confirmed an AI failure was responsible and apologized.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Meta

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 382
    1 レポート

    Instagram's Exposure of Harmful Content Allegedly Contributed to Teenage Girl's Suicide

  • インシデント 957
    1 レポート

    Alleged Instagram Algorithm Malfunction Floods Users' Reels Feeds with Violent and Graphic Content

もっと
Entity

Women and girls

影響を受けたインシデント
  • インシデント 382
    1 レポート

    Instagram's Exposure of Harmful Content Allegedly Contributed to Teenage Girl's Suicide

もっと
Entity

Molly Rose Russell

影響を受けたインシデント
  • インシデント 382
    1 レポート

    Instagram's Exposure of Harmful Content Allegedly Contributed to Teenage Girl's Suicide

もっと
Entity

Girls

影響を受けたインシデント
  • インシデント 382
    1 レポート

    Instagram's Exposure of Harmful Content Allegedly Contributed to Teenage Girl's Suicide

もっと
Entity

Family of Molly Rose Russell

影響を受けたインシデント
  • インシデント 382
    1 レポート

    Instagram's Exposure of Harmful Content Allegedly Contributed to Teenage Girl's Suicide

もっと
Entity

Adolescent girls

影響を受けたインシデント
  • インシデント 382
    1 レポート

    Instagram's Exposure of Harmful Content Allegedly Contributed to Teenage Girl's Suicide

もっと
Entity

Instagram

Incidents implicated systems
  • インシデント 382
    1 レポート

    Instagram's Exposure of Harmful Content Allegedly Contributed to Teenage Girl's Suicide

もっと
Entity

Minors

影響を受けたインシデント
  • インシデント 957
    1 レポート

    Alleged Instagram Algorithm Malfunction Floods Users' Reels Feeds with Violent and Graphic Content

もっと
Entity

Meta users

影響を受けたインシデント
  • インシデント 957
    1 レポート

    Alleged Instagram Algorithm Malfunction Floods Users' Reels Feeds with Violent and Graphic Content

もっと
Entity

Instagram users

影響を受けたインシデント
  • インシデント 957
    1 レポート

    Alleged Instagram Algorithm Malfunction Floods Users' Reels Feeds with Violent and Graphic Content

もっと
Entity

Instagram Reels

Incidents implicated systems
  • インシデント 957
    1 レポート

    Alleged Instagram Algorithm Malfunction Floods Users' Reels Feeds with Violent and Graphic Content

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2026 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • dd3f754