Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
自動翻訳済み

インシデント 1101: Meta AIアプリがユーザーに完全に気付かれずに個人的なチャットを公開しているとの報道

自動翻訳済み
概要:
自動翻訳済み
Metaは、ユーザーがチャットボットとの会話を共有できる「Discover」フィードを備えたスタンドアロンAIアプリをリリースしました。複数の報告によると、一部のユーザーが、音声録音、医療に関する質問、法的な懸念、親密な関係の開示など、非常に個人的なやり取りを意図せず公開してしまった可能性があるとのことです。Metaは共有はオプトイン制であるとしていますが、この機能の設計とラベル付けにより、何が公開されるのかについてユーザーに混乱を招いた可能性があります。

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示
OECD AIインシデントおよびハザードモニター(AIM)は、世界中の信頼できるニュースソースからリアルタイムでAI関連のインシデントやハザードを自動的に収集・分類します。
 

組織

すべての組織を表示
推定: Meta と Meta AIが開発し提供したAIシステムで、Meta usersに影響を与えた
関与が疑われるAIシステム: Meta AI

インシデントのステータス

インシデントID
1101
レポート数
3
インシデント発生日
2025-04-29
エディタ
Daniel Atherton
Applied Taxonomies
MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

2.1. Compromise of privacy by obtaining, leaking or correctly inferring sensitive information

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Privacy & Security

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

インシデントレポート

レポートタイムライン

Incident OccurrenceMetaに新しいスタンドアロンAIアプリがリリースされました。他の人が何を質問しているか確認できます。困惑しています。+1
マーク・ザッカーバーグはMeta AIの公開フィードでインターネット上で最も悲しい場所を作り出した
Loading...
Metaに新しいスタンドアロンAIアプリがリリースされました。他の人が何を質問しているか確認できます。困惑してい��ます。

Metaに新しいスタンドアロンAIアプリがリリースされました。他の人が何を質問しているか確認できます。困惑しています。

businessinsider.com

Loading...
マーク・ザッカーバーグはMeta AIの公開フィードでインターネット上で最も悲しい場所を作り出した

マーク・ザッカーバーグはMeta AIの公開フィードでインターネット上で最も悲しい場所を作り出した

businessinsider.com

Loading...
Meta AIユーザーはセックス、神、トランプについて打ち明ける。公開されていることを知らない人もいる。

Meta AIユーザーはセックス、神、トランプについて打ち明ける。公開されていることを知らない人もいる。

washingtonpost.com

Loading...
Metaに新しいスタンドアロンAIアプリがリリースされました。他の人が何を質問しているか確認できます。困惑しています。
businessinsider.com · 2025
自動翻訳済み

午後10時。ベッドの中でスマホをいじりながら、AIチャットボットに病気のペットのカメについて医療アドバイスを求める女性の音声クリップを聞いています。他人のことに首を突っ込むのが好きな私にとっては、まさに天国です。でも、一体どうやってここまで来たのでしょう?少し話を戻しましょう。

今週、MetaはMeta AIアプリをリリースしました。このアプリには2つの機能があります。1つ目は、Meta Ray-Banメガネに付属していたアプリ「Meta View」の代わりとなることです。

…
Loading...
マーク・ザッカーバーグはMeta AIの公開フィードでインターネット上で最も悲しい場所を作り出した
businessinsider.com · 2025
自動翻訳済み

MetaのスタンドアロンAIアプリは4月下旬にリリースされました。多くの人と同じように、私も最初は「えっ?」と思いました。少し試してみて、次に思ったのは「しまった!」でした。数週間後、好奇心旺盛な新規ユーザーが急増したのを除けば、今では「なんてこった」と思っています。

Meta AIの公開ストリームは、私が最近見た中で最も憂鬱なフィードかもしれません。悲しみ、子供の親権、経済的な困窮など、自分のプライベートな情報を共有する人々で溢れています。しかも、自分の共有内容が最終的に公…

Loading...
Meta AIユーザーはセックス、神、トランプについて打ち明ける。公開されていることを知らない人もいる。
washingtonpost.com · 2025
自動翻訳済み

ある男性は、友人がカミングアウトできるよう手助けする方法を知りたがっています。叔母は姪の卒業を祝う適切な言葉を探して苦労しています。そしてある男性は、「アジア人」の女性に年上の男性に興味があるかどうか尋ねる方法を知りたがっています。

10年前なら、ブランチや飲み屋、セラピストや聖職者のオフィスで、友人とこうしたデリケートな質問をしたかもしれません。しかし今では、多くのユーザーがMetaのAIチャットボットと、人間関係、アイデンティティ、スピリチュアリティについて、しばしば気ま…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?

よく似たインシデント

Selected by our editors

Meta AI Bug in Deployed Service Reportedly Allowed Potential Access to Other Users' Prompts and Responses

Dec 2024 · 2 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
Wikipedia Vandalism Prevention Bot Loop

Wikipedia Vandalism Prevention Bot Loop

Feb 2017 · 6 レポート
Loading...
Inappropriate Gmail Smart Reply Suggestions

Inappropriate Gmail Smart Reply Suggestions

Nov 2015 · 22 レポート
Loading...
TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

Jul 2019 · 3 レポート
前のインシデント次のインシデント

よく似たインシデント

Selected by our editors

Meta AI Bug in Deployed Service Reportedly Allowed Potential Access to Other Users' Prompts and Responses

Dec 2024 · 2 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
Wikipedia Vandalism Prevention Bot Loop

Wikipedia Vandalism Prevention Bot Loop

Feb 2017 · 6 レポート
Loading...
Inappropriate Gmail Smart Reply Suggestions

Inappropriate Gmail Smart Reply Suggestions

Nov 2015 · 22 レポート
Loading...
TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

Jul 2019 · 3 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 5440a2a