Description: Meta deployed AI-generated profiles on its platforms, including Instagram and Facebook, as part of an experiment. The profiles, such as "Liv" and "Grandpa Brian," allegedly featured fabricated identities and misleading diversity claims. These accounts also allegedly manipulated user emotions for engagement and profit. Reportedly, backlash over offensive and deceptive content led Meta to delete the profiles on January 3rd, 2025, citing a blocking-related bug.
Alleged: Meta , Meta AI Characters , Instagram と Facebook developed and deployed an AI system, which harmed Meta users , Instagram users と Facebook users.
インシデントのステータス
インシデントID
885
レポート数
2
インシデント発生日
2025-01-03
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
cnn.com · 2025
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
Meta は、人間のユーザーが AI 生成アカウントに関わり、ボットの雑な画像や、人間とのチャットで暴走したり嘘をついたりすることへの傾向について投稿し始めた後、すぐに AI 生成アカウントのいくつかを削除しました。
この問題は先週、MetaのジェネレーティブAI担当副社長であるコナー・ヘイズ氏がフィナンシャルタイムズに語ったことで浮上した。同社は、自社の自作 AI ユーザーが人間のアカウントとほぼ同じように自社のプラットフォームに登場すると予想している。「彼らにはプロフィー…
mashable.com · 2025
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
Meta は反発を受けて AI キャラクター アカウントを閉鎖 したと NBC ニュースなどが報じている。
Metaは2023年にこれらのキャラクターを有名人のアバターを持つAIペルソナとともにリリースしましたが、今週、最近の_Financial Times_のMetaのジェネレーティブAI製品担当副社長、コナー・ヘイズ氏へのインタビューを受けて、多くの人がオンライン上でそれらを(再)発見しました。ヘイズ氏はInstagramとFacebookのAIキャラクターについて言及し…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents