Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

インシデント 869: TikTok Algorithms Allegedly Linked to Minors' Exposure to Harmful Content

概要: Seven French families are suing TikTok, alleging its algorithm exposed minors to harmful content promoting self-harm, eating disorders, and suicide. Two teenagers reportedly died by suicide after viewing such content, while others allegedly attempted suicide or developed mental health issues. The case seeks to establish TikTok's legal liability for failing to protect minors from harmful algorithmic content.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
推定: TikTok と TikTok recommendation algorithmsが開発し提供したAIシステムで、TikTok users , Seven French families と Minors using TikTokに影響を与えた
関与が疑われるAIシステム: TikTok recommendation algorithms

インシデントのステータス

インシデントID
869
レポート数
7
インシデント発生日
2024-11-04
エディタ
Daniel Atherton
Applied Taxonomies
MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.2. Exposure to toxic content

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

インシデントレポート

レポートタイムライン

+5
フランスの家族がTikTokを有害コンテンツの削除に失敗したとして訴える
フランス:TikTok、コンテンツ規制で訴訟起こされるフランスの7家族が自殺につながったとされる有害コンテンツでTikTokを訴える
フランスの家族がTikTokを有害コンテンツの削除に失敗したとして訴える

フランスの家族がTikTokを有害コンテンツの削除に失敗したとして訴える

reuters.com

フランスの家族が有害コンテンツでTikTokを訴える

フランスの家族が有害コンテンツでTikTokを訴える

bbc.com

子供が自殺したフランスの両親がTikTokを有害コンテンツで訴える

子供が自殺したフランスの両親がTikTokを有害コンテンツで訴える

theguardian.com

フランスの家族がTikTokを自傷行為コンテンツの宣伝で訴える

フランスの家族がTikTokを自傷行為コンテンツの宣伝で訴える

politico.eu

ティックトック、2人の自殺につながったとされる有害コンテンツでフランスで訴訟

ティックトック、2人の自殺につながったとされる有害コンテンツでフランスで訴訟

cnn.com

フランス:TikTok、コンテンツ規制で訴訟起こされる

フランス:TikTok、コンテンツ規制で訴訟起こされる

dw.com

フランスの7家族が自殺につながったとされる有害コンテンツでTikTokを訴える

フランスの7家族が自殺につながったとされる有害コンテンツでTikTokを訴える

euronews.com

フランスの家族がTikTokを有害コンテンツの削除に失敗したとして訴える
reuters.com · 2024
自動翻訳済み

パリ、11月4日(ロイター) - フランスの7家族がソーシャルメディア大手TikTokを相手取り訴訟を起こした。同プラットフォームが10代の子供たちを有害なコンテンツにさらし、うち2人が15歳で自殺したと、彼らの弁護士が月曜日に述べた。

訴訟では、TikTokのアルゴリズムが7人の若者を自殺、自傷、摂食障害を助長する動画にさらしたと、弁護士のローレ・ブートロン=マルミオン氏は放送局のフランスインフォに語った。

家族はクレテイユの司法裁判所で共同訴訟を起こしている。ブートロン=…

フランスの家族が有害コンテンツでTikTokを訴える
bbc.com · 2024
自動翻訳済み

TikTokはフランスの7家族から訴訟を起こされている。家族らは、このソーシャルメディア大手が子供たちを有害なコンテンツにさらし、2人が自殺に至ったと訴えている。

この訴訟では、動画プラットフォームのアルゴリズムが自傷行為、摂食障害、自殺を促すコンテンツに子供たちをさらしたと、家族側の弁護士であるローレ・ブートロン=マルミオン氏は述べた。

同氏はフランスのメディアに対し、この訴訟はヨーロッパで初めてのものだと語った。

世界で最も人気のあるソーシャルメディアプラットフォームの1…

子供が自殺したフランスの両親がTikTokを有害コンテンツで訴える
theguardian.com · 2024
自動翻訳済み

フランスの7家族がTikTokを相手取って訴訟を起こした。同プラットフォームが10代の子供たちを有害なコンテンツにさらし、そのうち2人が15歳で自殺したと、彼らの弁護士が語った。

訴訟では、TikTokのアルゴリズムが7人のティーンエイジャーを自殺、自傷、摂食障害を促進する動画にさらしたと主張していると、弁護士のローレ・ブートロン=マルミオン氏は月曜日、放送局Franceinfoに語った。

家族らはパリのクレテイユ司法裁判所で共同訴訟を起こしている。ブートロン=マルミオン氏は…

フランスの家族がTikTokを自傷行為コンテンツの宣伝で訴える
politico.eu · 2024
自動翻訳済み

パリ --- 7人のフランス人家族は、コンテンツ管理が不十分で子供たちが危険にさらされているとして、TikTokに責任を負わせることで前例を作ろうとしている。

Algos Victimaと呼ばれる団体の一員であるこれらの家族は、親会社ByteDanceが北京に拠点を置くソーシャルメディアプラットフォームを訴えている。彼らは、自傷行為、自殺、摂食障害に関連するコンテンツを宣伝していると非難している。

「私たちの課題は、TikTokに管理不足の責任を負わせることです。このサービス…

ティックトック、2人の自殺につながったとされる有害コンテンツでフランスで訴訟
cnn.com · 2024
自動翻訳済み

フランスの7家族がソーシャルメディア大手TikTokを相手取り訴訟を起こした。同プラットフォームが10代の子供たちを有害なコンテンツにさらし、そのうち2人が15歳で自殺したと、彼らの弁護士が月曜日に述べた。

訴訟では、TikTokのアルゴリズムが7人の若者を自殺、自傷、摂食障害を助長する動画にさらしたと主張していると、弁護士のローレ・ブートロン=マルミオン氏は放送局のフランスインフォに語った。

家族はクレテイユの司法裁判所で共同訴訟を起こしている。ブートロン=マルミオン氏は、…

フランス:TikTok、コンテンツ規制で訴訟起こされる
dw.com · 2024
自動翻訳済み

フランスの7家族がTikTokを相手取り訴訟を起こした。同ソーシャルメディア大手が、子どもたちを有害なコンテンツにさらし、15歳で2人が自殺するに至ったと、彼らの弁護士は述べた。

訴訟によると、TikTokのアルゴリズムが、10代の若者たちを自殺、自傷、摂食障害を助長する動画にさらしたとされている。

弁護士のローレ・ブートロン=マルミオン氏は、これはヨーロッパで初めての集団訴訟だと述べた。

「両親は、TikTokの法的責任が法廷で認められることを望んでいる」とブートロン=マル…

フランスの7家族が自殺につながったとされる有害コンテンツでTikTokを訴える
euronews.com · 2024
自動翻訳済み

原告側の弁護士はユーロニュースに対し、TikTokの「中毒性のある」デザインと限定的なコンテンツ管理は若者に有害だと語った。

フランスの7家族がTikTokを提訴し、このソーシャルネットワークが若者の健康に「直接的な損害」を与え、そのうち2人が15歳で自殺したと弁護士は述べた。

家族集団アルゴス・ヴィクティマの代理人であるローレ・ブートロン=マルミオン弁護士は、裁判官に訴訟を起こした。

「私はフランスの民事責任の基本原則を活用しています」と彼女はユーロニュースネクストに語り、…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Defamation via AutoComplete

Algorithmic Defamation: The Case of the Shameless Autocomplete

Apr 2011 · 28 レポート
A Tesla Taxi Cab Involved in an Accident in Paris with Twenty Injuries

Paris taxi firm suspends use of Tesla cars after fatal accident

Dec 2021 · 7 レポート
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Criticized for ‘Inappropriate Content’

May 2015 · 14 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Defamation via AutoComplete

Algorithmic Defamation: The Case of the Shameless Autocomplete

Apr 2011 · 28 レポート
A Tesla Taxi Cab Involved in an Accident in Paris with Twenty Injuries

Paris taxi firm suspends use of Tesla cars after fatal accident

Dec 2021 · 7 レポート
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Criticized for ‘Inappropriate Content’

May 2015 · 14 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 1420c8e