レポート 4178

2006年に18歳の娘が殺害され、今も悲しみに暮れる父親は、娘の名前と卒業アルバムの写真がAIチャットボットの作成に使われていたことを知って愕然としたという。ドリュー・クレセンテ氏は今月初め、Character.aiでこのチャットボットを発見した。Character.aiは、ユーザーが生成型人工知能で作られたデジタルキャラクターと会話したり、自分でキャラクターを作成したりできるウェブサイトだ。元ボーイフレンドに射殺された実在の人物、ジェニファー・アン・クレセンテ氏のユーザー生成プロフィールは、ユーザーを「ビデオゲームジャーナリストであり、テクノロジー、ポップカルチャー、ジャーナリズムの専門家」と会話するよう誘うものだった。クレセンテ氏がこのプロフィールを見た時点で、少なくとも69件のチャットが行われていたとBusiness Insiderは報じている。

クレセンテ氏は、このプロフィールには反応しなかった。同氏は、このプロフィールはジェニファーの叔父で、ゲームニュースサイト「Polygon」と「Kotaku」の創設者であるブライアン・クレセンテ氏の経歴から詳細を引用したものだと信じている。「ただ、大きな赤い点滅停止ボタンを探していただけだ」と、同氏はワシントン・ポストに語っている。「本当に大変な目に遭ってきたので、ショックを受けるのにかなりの時間がかかる。でも、これは過去最低だ」。同氏はCharacter.aiに連絡したが、返答はなかった。しかし、同社はブライアン・クレセンテ氏のツイートに返信し、このプロフィールは削除されたと述べた。規約では、ユーザーがいかなる人物や団体になりすますことも禁止されているが、同サイトにはイーロン・マスクからトラビス・ケルシーまで、著名人の模倣キャラクターが多数掲載されている。Wired は、複数のキャラクターが「本人の同意なく作成され、その中にはオンラインですでに嫌がらせを受けている女性もいた」と報じている。

同社の担当者は、「なりすましの報告は調査され、利用規約に違反していることが判明した場合はキャラクターが削除される」と述べている。しかし専門家は、この件は、ほとんど規制されていない AI 業界がユーザーを危害から守るために何をする意思と能力があるのかという懸念を生じさせると述べている。「今年、AI モデルのライセンスを Google に供与する 25 億ドルの契約を結んだ Character は、この分野で最大のプレーヤーの 1 つです」と Post は伝えている。 「もし彼らが『私たちのプラットフォームではこれを許可しない』と言いながら、それによって傷ついた誰かから指摘されるまでプラットフォーム上で許可するのであれば、それは正しくありません」と、モジラ財団のプライバシー研究者ジェン・カルトライダー氏はポスト紙に語った。BIによると、クレセンテ氏は「声を上げられないかもしれない」人々への害を懸念している。（その他の人工知能記事。）