概要: Instagramのアルゴリズムの不具合により、ユーザーのリール(Reels)フィードが暴力的で心を痛めるコンテンツで溢れかえる事態が発生しました。多くのユーザーが、死や極度の残虐行為、その他の残虐なコンテンツが立て続けに表示され、多くの場合、同様のコンテンツに事前に関与したことがない状態だったと報告しています。この突然の露出は多くのユーザーに心理的苦痛を与え、特に未成年者や社会的弱者がこれらの残虐なコンテンツの影響を受けました。Metaは、AIの不具合が原因であることを確認し、謝罪しました。
推定: Meta , Instagram recommendation algorithm と Instagram Reelsが開発し提供したAIシステムで、Meta users , Instagram users と minorsに影響を与えた
関与が疑われるAIシステム: Instagram recommendation algorithm と Instagram Reels
インシデントのステータス
インシデントID
957
レポート数
1
インシデント発生日
2025-02-28
エディタ
Daniel Atherton