Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

レポート 5323

関連インシデント

インシデント 11013 Report
Meta AI App Reportedly Publishes Personal Chats Without Users Fully Realizing

Loading...
マーク・ザッカーバーグはMeta AIの公開フィードでインターネット上で最も悲しい場所を作り出した
businessinsider.com · 2025

MetaのスタンドアロンAIアプリは4月下旬にリリースされました。多くの人と同じように、私も最初は「えっ?」と思いました。少し試してみて、次に思ったのは「しまった!」でした。数週間後、好奇心旺盛な新規ユーザーが急増したのを除けば、今では「なんてこった」と思っています。

Meta AIの公開ストリームは、私が最近見た中で最も憂鬱なフィードかもしれません。悲しみ、子供の親権、経済的な困窮など、自分のプライベートな情報を共有する人々で溢れています。しかも、自分の共有内容が最終的に公開フィードに掲載されることに気づいていない人もいるようです。

Meta AIアプリは、コードの作成や大規模データセットの分析といった複雑な作業よりも、カジュアルなチャットに特化したボットです。そして、ChatGPT やGoogleのGeminiのような他の大規模言語モデルと最も異なるのは、Meta AIの公開「Discover」フィードです。これは、他のユーザーからのプロンプト、会話、画像出力を表示します。Meta AI専用のアプリで、Facebook フィードや、終わりのないInstagramのスクロールのようなものだと考えてください。

なぜ誰かが私が読んだものを共有したいと思うのか、私にはわかりません。また、私のようなおせっかいな変人でない限り、見知らぬ人々とチャットボットのやり取りのフィードを見たいと思う理由もわかりません。それでも、人々は共有します。特にクールだと思った画像などを自慢したいのかもしれません。

Meta AIの「Discover」フィードは個人的なやり取りで溢れている

4月下旬、最初のリリース直後、Meta AIのフィードは確かにほとんどが画像でした。

しかし、中にはより個人的な内容と思われる会話もいくつか混じっていました。例えば、65歳の女性のためのビタミンサプリメントについて尋ねたり、解雇に関する法的アドバイスを求めたり、特別な祈りを捧げてほしいと頼んでいたりする人がいました。

最近アプリを再確認してみると、こうした個人的な意見がさらに増えていました。中には、子供の親権訴訟で裁判官に宛てた手紙の草稿作成を手伝ってほしいという依頼に、電話番号やメールアドレスまで含まれている人もいました。

その人は、その情報を世界に公開するつもりだったのでしょうか?もしかしたらそうかもしれません。しかし、もしかしたら間違ったボタンをクリックしてしまったのかもしれないと思っています。もしかしたら、私の考えが間違っているかもしれません!Metaの広報担当者であるダニエル・ロバーツ氏によると、チャット履歴や画像をMeta AIのDiscoveryフィードに共有するには、複数の手順が必要だそうです。念のため言っておきますが、Meta AIとの会話はデフォルトでは公開されません。ロバーツ氏が言ったように、何かを公開するには「共有」をクリックしてから「投稿」をクリックすることで、明示的に公開設定をする必要があります。

公開フィードで私が見た他の会話には、妻の誕生日に詩を書くのを手伝ってほしいという人、医療に関する質問をしている人、ダイエットのコツを知りたいという人、そして癌で亡くなった妻と話している人がいました。

他にも、AIに月末にExperianの信用情報監視サービスの解約リマインダーを送ってほしいと頼んでいる人、他の会員との口論で資格停止処分を受けたと訴える女性が、地元のエルクスロッジへの手紙の書き方を手伝ってほしいと頼んでいました。

つまり、これらの人々の中には、AIチャットを世界に公開したい人もいれば、そうでない人もいるのかもしれません。

テキストや画像のフィードよりもさらに不気味に感じたのは、音声フィードです。ボイスチャット機能を使用している場合、共有されていれば会話の録音を実際に聞くことができます。

私が聞いた録音のうち少なくとも2つは、音声ボタンを押したことに気づいていない人たちのものだと思われます。1つは同僚とシフトスケジュールについて会話している音声で、もう1つはポケットダイヤルのような音声でした。男性が別の人と会話しているところに、Meta AIが次々と提案を付け加えているのです。

Meta AIのDiscoverフィードには、ある意味で憂鬱な印象を受けました。質問自体が憂鬱なものばかりだったからというだけではありません。特に陰鬱に感じられたのは、これらの人たちの中には、自分が何を共有しているのか気づいていない人たちもいるように思えたことです。

Meta AIの投稿には、実際のInstagramやFacebookのハンドルネームが添付されています。これらの人たちの実生活のプロフィールを調べることはできましたが、少し抵抗がありました。フィードで投稿を見つけた20人以上の人に連絡を取り、彼らの体験について尋ねました。そのうちの1人から返信があり、ボットとの会話を公開するつもりはなかったと話してくれました。 (彼は車の修理に関するアドバイスを求めていました。)

Meta AI Discoverフィードに表示される投稿には、他のユーザーが返信できます。特に個人的な投稿の中には、見知らぬ人から、共有している内容がセンシティブな内容であり、一般公開される可能性があると警告されたものもあります。

MetaはAIが未来を担うことを目指していますが、現状はそうは思えません。

マーク・ザッカーバーグは、AIは非常に重要だと考えていると述べています。彼の会社はScaleAIに巨額の投資を行っていると報じられており、ScaleAIのCEOを、人間よりも賢い「スーパーインテリジェンス」の創出を目標としたプロジェクトを率いる立場に就かせる可能性もある。(https://www.bloomberg.com/news/articles/2025-06-10/zuckerberg-recruits-new-superintelligence-ai-group-at-meta)。その目標は、人間よりも賢い「スーパーインテリジェンス」の創出だ。(https://www.businessinsider.com/ai-talent-wars-recruiting-hiring-white-hot-2025-6)

しかし、Meta AIを使った消費者向け機能は、いまいちだ。Instagram Messengerには、ユーザーが作成した恋愛チャットボットが存在する。(https://www.businessinsider.com/instagram-new-ai-chatbots-are-getting-weird-and-erotic-2024-8)中には不運な人もいました有名人が声を担当しています(ジョン・シナにこのことについて聞かないでください)。

Metaは本当に、AIの取り組みによって、人々がMeta AIボットとのやり取りを(おそらくは偶然に)公開フィードに投稿することを望んでいるのでしょうか?4月のリリース時、Metaは、Discoverフィードは「他の人がAIをどのように活用しているかを共有し、探求する場」であると述べました。

Meta AIのDiscoverフィードに掲載されているコンテンツのほとんどは、陰気で過度に個人的な内容ではないと言わざるを得ません。ほとんどはただのくだらない画像で、中にはレシピのリクエストや、この新しい技術の使い方に関する質問など、当たり障りのないものが混ざっています。しかし、フィードとして見て「役に立つ」どころか「楽しい」とも思えません。無関係でランダムな情報がごちゃ混ぜになっていて、そのほとんどが実に退屈です。

MetaがユーザーにAIを便利で素晴らしいもののように使ってもらいたいと考えているのであれば、Meta AIアプリでの私のひどい経験と、この考えを一致させるのは難しいです。

情報源を読む

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • e1b50cd