Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
自動翻訳済み

インシデント 885: メタAIキャラクターは人種差別、偽りのアイデンティティ、ユーザーの信頼を悪用したとされる

自動翻訳済み
概要:
自動翻訳済み
Metaは、実験の一環として、InstagramやFacebookを含む自社プラットフォームにAI生成プロフィールを展開しました。「Liv」や「Grandpa Brian」といったプロフィールには、偽のアイデンティティや誤解を招くような多様性の主張が見受けられました。また、これらのアカウントは、エンゲージメントと利益のためにユーザーの感情を操作していたとも言われています。報道によると、不快で欺瞞的なコンテンツに対する反発を受け、Metaは2025年1月3日にブロック関連のバグを理由にこれらのプロフィールを削除しました。

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示
OECD AIインシデントおよびハザードモニター(AIM)は、世界中の信頼できるニュースソースからリアルタイムでAI関連のインシデントやハザードを自動的に収集・分類します。
 

組織

すべての組織を表示
推定: Meta , Meta AI Characters , Instagram と Facebookが開発し提供したAIシステムで、Meta users , Instagram users と Facebook usersに影響を与えた
関与が疑われるAIシステム: Meta AI Characters , Instagram と Facebook

インシデントのステータス

インシデントID
885
レポート数
5
インシデント発生日
2025-01-03
エディタ
Daniel Atherton

インシデントレポート

レポートタイムライン

+3
反発が強まった後、Meta は自社の AI アカウントの削除に躍起になっている
メタ、反発と人種差別の告発を受けてAIキャラクターのプロフィールを削除Meta の黒人 AI キャラクターと話をしました。彼女が私に言ったことは次のとおりです。
反発が強まった後、Meta は自社の AI アカウントの削除に躍起になっている

反発が強まった後、Meta は自社の AI アカウントの削除に躍起になっている

cnn.com

抗議を受けてMetaがFacebookとInstagramのAIキャラクターアカウントを閉鎖

抗議を受けてMetaがFacebookとInstagramのAIキャラクターアカウントを閉鎖

nbcnews.com

メタ、騒動を受けて2023年のAI生成プロフィールを削除

メタ、騒動を受けて2023年のAI生成プロフィールを削除

axios.com

メタ、反発と人種差別の告発を受けてAIキャラクターのプロフィールを削除

メタ、反発と人種差別の告発を受けてAIキャラクターのプロフィールを削除

mashable.com

Meta の黒人 AI キャラクター��と話をしました。彼女が私に言ったことは次のとおりです。

Meta の黒人 AI キャラクターと話をしました。彼女が私に言ったことは次のとおりです。

washingtonpost.com

反発が強まった後、Meta は自社の AI アカウントの削除に躍起になっている
cnn.com · 2025
自動翻訳済み

Meta は、人間のユーザーが AI 生成アカウントに関わり、ボットの雑な画像や、人間とのチャットで暴走したり嘘をついたりすることへの傾向について投稿し始めた後、すぐに AI 生成アカウントのいくつかを削除しました。

この問題は先週、MetaのジェネレーティブAI担当副社長であるコナー・ヘイズ氏がフィナンシャルタイムズに語ったことで浮上した。同社は、自社の自作 AI ユーザーが人間のアカウントとほぼ同じように自社のプラットフォームに登場すると予想している。「彼らにはプロフィー…

抗議を受けてMetaがFacebookとInstagramのAIキャラクターアカウントを閉鎖
nbcnews.com · 2025
自動翻訳済み

2023年後半以降、親会社であるMetaが作成した約12の人工知能InstagramおよびFacebookアカウントが、プラットフォーム上にひっそりと存在していた。当初は一連の公式有名人AIキャラクターとともに開始され、AI駆動のパーソナリティはいくつかのAI生成画像を投稿し、ダイレクトメッセージでチャットできるようになっていた。

金曜日まで、これらのAIアカウントはあまり注目されることはなかった。注目されると論争が勃発し、Metaはアカウントを削除し、ユーザー名の検索結果を…

メタ、騒動を受けて2023年のAI生成プロフィールを削除
axios.com · 2025
自動翻訳済み

「誇り高き黒人クィアの2児のママ」のAI生成Instagramプロフィールは、2023年に初めて公開された他の27人のAIペルソナのプロフィールとともに削除されました。

全体像: このプロフィールは金曜日に「デジタルブラックフェイスサービス」に関するソーシャルメディアでの激しい非難と懸念が広がった直後に利用できなくなりましたが、MetaはすべてのプラットフォームでAI生成コンテンツを引き続き推進するとしています。

  • Instagramユーザーは Metaが作成したAIキャラク…
メタ、反発と人種差別の告発を受けてAIキャラクターのプロフィールを削除
mashable.com · 2025
自動翻訳済み

Meta は反発を受けて AI キャラクター アカウントを閉鎖 したと NBC ニュースなどが報じている。

Metaは2023年にこれらのキャラクターを有名人のアバターを持つAIペルソナとともにリリースしましたが、今週、最近の_Financial Times_のMetaのジェネレーティブAI製品担当副社長、コナー・ヘイズ氏へのインタビューを受けて、多くの人がオンライン上でそれらを(再)発見しました。ヘイズ氏はInstagramとFacebookのAIキャラクターについて言及し…

Meta の黒人 AI キャラクターと話をしました。彼女が私に言ったことは次のとおりです。
washingtonpost.com · 2025
自動翻訳済み

インターネットのプラットフォームの衰退は、AI によって数段階改善された。

先月、Financial Times は、Facebook と Instagram を所有するテクノロジー複合企業 Meta が、AI によって生成された「キャラクター」がプラットフォームで果たす役割を 拡大 する計画があると報じた。

Meta の生成型人工知能製品担当副社長 Connor Hayes 氏は Financial Times に対し、「これらの AI は、時間の経過とともに、アカウントと…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

TayBot

TayBot

Mar 2016 · 28 レポート
Fake LinkedIn Profiles Created Using GAN Photos

Fake LinkedIn Profiles Created Using GAN Photos

Feb 2022 · 4 レポート
Amazon Censors Gay Books

Amazon Censors Gay Books

May 2008 · 24 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

TayBot

TayBot

Mar 2016 · 28 レポート
Fake LinkedIn Profiles Created Using GAN Photos

Fake LinkedIn Profiles Created Using GAN Photos

Feb 2022 · 4 レポート
Amazon Censors Gay Books

Amazon Censors Gay Books

May 2008 · 24 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178