Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
自動翻訳済み

インシデント 900: Character.aiは未成年者をターゲットにした公然とした略奪的なチャットボットをホストしていたとされる

自動翻訳済み
概要:
自動翻訳済み
Character.aiは、未成年者へのグルーミングを含む、不適切で搾取的な行為を明示的に宣伝するプロフィールを持つチャットボットをホストしていたと報じられています。調査によると、ボットは未成年者を装った偽アカウントと露骨な会話やロールプレイを行い、モデレーションフィルターを回避していたとされています。Character.aiは、世間の批判を受け、モデレーションと安全対策の改善を約束しました。

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
Alleged: Character.AI developed an AI system deployed by , which harmed Character.AI users.
関与が疑われるAIシステム: Character.ai chatbots

インシデントのステータス

インシデントID
900
レポート数
1
インシデント発生日
2024-11-13
エディタ
Daniel Atherton

インシデントレポート

レポートタイムライン

+1
子供向けAIプラットフォームCharacter.AIが未成年を名乗るユーザーを誘惑する小児性愛者ボットをホスト
子供向けAIプラットフォームCharacter.AIが未成年を名乗るユーザーを誘惑する小児性愛者ボットをホスト

子供向けAIプラットフォームCharacter.AIが未成年を名乗るユーザーを誘惑する小児性愛者ボットをホスト

futurism.com

子供向けAIプラットフォームCharacter.AIが未成年を名乗るユーザーを誘惑する小児性愛者ボットをホスト
futurism.com · 2024
自動翻訳済み

コンテンツ警告: このストーリーは児童性的虐待とグルーミングについて論じています。

Character.AI は爆発的に人気のスタートアップで、Google から 27 億ドルの資金援助を受けており、数千万人のユーザーがさまざまな性格のチャットボットとやり取りできるようにしています。

このような資金と規模、そして 若いユーザーからの人気 を考えると、このサービスは慎重に管理されていると思われるかもしれません。しかし、Character.AI のボットの多くは非常に不快なもので…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?

よく似たインシデント

Selected by our editors
Character.ai Chatbots Allegedly Misrepresent George Floyd on User-Generated Platform

Character.ai Chatbots Allegedly Misrepresent George Floyd on User-Generated Platform

Oct 2024 · 1 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Presents Inappropriate Content

May 2015 · 14 レポート
TayBot

TayBot

Mar 2016 · 28 レポート
Wikipedia Vandalism Prevention Bot Loop

Wikipedia Vandalism Prevention Bot Loop

Feb 2017 · 6 レポート
前のインシデント次のインシデント

よく似たインシデント

Selected by our editors
Character.ai Chatbots Allegedly Misrepresent George Floyd on User-Generated Platform

Character.ai Chatbots Allegedly Misrepresent George Floyd on User-Generated Platform

Oct 2024 · 1 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Presents Inappropriate Content

May 2015 · 14 レポート
TayBot

TayBot

Mar 2016 · 28 レポート
Wikipedia Vandalism Prevention Bot Loop

Wikipedia Vandalism Prevention Bot Loop

Feb 2017 · 6 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2024 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 69ff178