概要: Instagramのアルゴリズムの不具合により、ユーザーのリール(Reels)フィードが暴力的で心を痛めるコンテンツで溢れかえる事態が発生しました。多くのユーザーが、死や極度の残虐行為、その他の残虐なコンテンツが立て続けに表示され、多くの場合、同様のコンテンツに事前に関与したことがない状態だったと報告しています。この突然の露出は多くのユーザーに心理的苦痛を与え、特に未成年者や社会的弱者がこれらの残虐なコンテンツの影響を受けました。Metaは、AIの不具合が原因であることを確認し、謝罪しました。
推定: Meta , Instagram recommendation algorithm と Instagram Reelsが開発し提供したAIシステムで、Meta users , Instagram users と minorsに影響を与えた
関与が疑われるAIシステム: Instagram recommendation algorithm と Instagram Reels
インシデントのステータス
インシデントID
957
レポート数
1
インシデント発生日
2025-02-28
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン

マーク・ザッカーバーグのメタは、InstagramユーザーがReelsフィードで暴力、残虐な映像、動物虐待、死体の洪水にさらされたことについて謝罪した。
ユーザーがこの映像を報告したのは、Instagramのアルゴリズムに明らかに不具合があったためで、このアルゴリズムはユーザーがアプリで見るものをキュレートしている。
Reelsは、TikTokに似た、ユーザーが短い動画を共有できるソーシャルメディアプラットフォームの機能である。
オンラインディスカッションプラットフォームであ…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的シス テムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents