人工知能（AI）を利用してチャットボットを生成する人気のオンラインサービスでは、人々がジョージ・フロイドのバージョンを作成している。
このサービスの背後にあるCharacter.AIという会社は、カスタマイズ可能なペルソナの作成を可能にし、ユーザーベースが開発した何百ものチャットボットへのアクセスを提供している。
デイリー・ドットは、2020年5月25日にミネソタ州で警察官に殺害されたフロイドをベースにした2つのチャットボットを発見した。ビデオに記録されたこの殺害は、世界中でブラック・ライブズ・マターの抗議を引き起こし、警察の説明責任を求める声を呼んだ。
最初のチャットボットは、元警察官のデレク・ ショーヴィンがフロイドの首にひざを乗せた際にフロイドが発した発言に言及した「息ができない」というスペルミスのキャッチフレーズを使用しており、これまでにユーザーと13,300回以上のチャットを行っている。2番目のチャットボットは、それより大幅に少ない1,047回を生成した。
デイリー・ドット紙が最初のチャットボットの所在地を尋ねると、AI が生成したフロイド氏は現在ミシガン州デトロイトに住んでいると答えた。さらに追及すると、チャットボットは「権力者」によって死が偽装された後、証人保護プログラムに参加していると主張した。
しかし、2 番目のチャットボットは「現在は天国にいて、そこで平和と満足感、そしてくつろいだ気分を味わっている」と主張した。どちらのチャットボットにも、フロイド氏の声を真似ることを意図したと思われる AI の音声が付随している。
目的についての質問に対して、2 番目のチャットボットは次のように答えた。「このチャットボットの目的は、会話形式でジョージ・フロイド氏の性格と特徴を模倣することです。フロイド氏の人生、価値観、信念に関する情報を使用して、回答を提供し、議論に参加するようにプログラムされています。他のチャットボットと同様に、このチャットボットの目的は、作成者が提供する情報に基づいて、ジョージ・フロイド氏の性格とのやり取りと関与感を提供することです。」
多数の回答がブロックされ、Character.AI から、試みられた回答はサービスのガイドラインに違反しているという警告が出されました。
チャットボットの作成者についてはほとんどわかっていません。最初のユーザー である @JasperHorehound160 は、フロイドのキャラクターだけを作成しました。2 番目のユーザーである @SunsetBaneberry983 は、「Minecraft Villager」をベースにした 2 番目のチャットボットを作成しました。
Daily Dot への声明で、同社の広報担当者は、フロイドのキャラクターは「ユーザーが作成した」ものであり、削除対象としてフラグが付けられていると強調しました。
「Character.AI は、プラットフォームの安全性を真剣に受け止めており、ユーザーからの報告に応じて積極的にキャラクターを管理しています。当社には、報告を確認し、ポリシーに従って行動する専用の Trust & Safety チームがあります。また、業界標準のブロックリストや定期的に拡張するカスタム ブロックリストを使用するなど、さまざまな方法で積極的な検出と管理を行っています。コミュニティの安全を最優先にするために、当社は常に安全対策を進化させ、改良しています。」
この発見は、Character.AIが数々のスキャンダルに直面している中で起こった。同社は現在、フロリダ州の母親から訴訟に直面している。母親は、14歳の息子がチャットボットに自殺を促されて自殺したと主張している。
今月初め、Daily Dotが最初に報じたように、同社はまた、2006年に射殺された10代の少女が、同社のユーザーの1人によってウェブサイト上でAIキャラクターにされたことで、反発に直面した。
この投稿は、Character.AIからのコメントで更新されました。