関連インシデント
ある男性は、友人がカミングアウトできるよう手助けする方法を知りたがっています。叔母は姪の卒業を祝う適切な言葉を探して苦労しています。そしてある男性は、「アジア人」の女性に年上の男性に興味があるかどうか尋ねる方法を知りたがっています。
10年前なら、ブランチや飲み屋、セラピストや聖職者のオフィスで、友人とこうしたデリケートな質問をしたかもしれません。しかし今では、多くのユーザーがMetaのAIチャットボットと、人間関係、アイデンティティ、スピリチュアリティについて、しばしば気まずい会話を交わし、アプリの公開フィードに投稿しています。時には、自分の考えが他人に見られることを知らない人もいるようです。
Metaは約2か月前に、ユーザーが思いつくあらゆる質問に対して、パーソナライズされた会話形式の回答を提供することを目的としたAIチャットボット用のスタンドアロンアプリをリリースしました。これは、OpenAIのChatGPTやAnthropicのClaudeが提供するサービスに似ています。しかし、このアプリにはユニークな機能が搭載されていました。それは、ユーザーがMeta AIとの個人的な会話を投稿し、世界中に公開できる「発見」フィードです。これは、AIが生成したコンテンツをソーシャルネットワークに組み込むという、同社のより大規模な戦略を反映しています。
4月のリリース以来、このアプリの発見フィードには、生活に関する個人的な話題や、世界に対する個人的な哲学的な疑問など、Meta AIとの会話が溢れています。この機能への注目が高まるにつれ、一部のユーザーは意図的にMeta AIとのコミカルな会話を宣伝しているようです。また、ドナルド・トランプ大統領のおむつ姿、性的状況にある少女の画像、自社のプロモーションなど、政治的な話題についてAIが生成した画像を公開するユーザーもいます。少なくとも1件のケースでは、実名が明らかであると思われる人物が、恥ずかしい質問をした後、ボットにやり取りの削除を依頼しました。
Meta AIへの個人的な投稿の急増は、人々が人間関係や感情的なニーズを満たすために会話型チャットボットを利用するケースが増えていることを示す最新の兆候です。ユーザーが夫婦間の問題から金銭的な問題まで、様々な問題についてチャットボットにアドバイスを 求める中、プライバシー擁護団体は、ユーザーの個人情報がテクノロジー企業によって予期せぬ、あるいは望まない方法で利用される可能性があると警告しています。
電子プライバシー情報センター（EPIC）の上級顧問であるカリ・シュローダー氏は、「AIセラピストのチャットボットに非常に個人的な情報を送信したり、他の場面で非常に親密な発言をしたりする例を数多く目にしてきました」と述べています。
「多くの人は、AIには最低限の機密性があると考えているようですが、実際はそうではありません。AIシステムに送信した情報はすべて、最低限、AIをホストしている企業に渡ってしまうのです。」
Metaの広報担当者ダニエル・ロバーツ氏によると、Meta AIとのチャットはデフォルトで非公開に設定されており、アプリのディスカバーフィードに表示されるには、ユーザーが共有または公開ボタンを自らタップする必要があるという。実在の人物が特定されることもあるが、ディスカバーフィードでは別のユーザー名を自由に選択できる。
しかし、同社の共有ボタンには、Meta AIとの会話がどこに投稿され、他の人が何を見ることができるのかが明確に示されておらず、この点が新アプリについて一部のユーザーを混乱させているようだ。
Metaのアプローチは、ソーシャルネットワーキングの要素と、個人的な回答を提供するように設計されたAIチャットボットを融合させており、同社の主要ライバル企業のアプローチとは一線を画している。ChatGPTとClaudeは、ユーザーからの質問に対して同様に会話的で有益な回答を提供しているが、他の人がそのコンテンツを見ることができる同様のフィードは存在しない。 MidjourneyやOpenAIのSoraといった動画や画像を生成するAIツールには、ユーザーが作品を共有したり、AIが他のユーザーのために作成したものを確認したりできるページがありますが、どちらのサービスも個人的なテキスト会話には対応していません。
Meta AIのディスカバーフィードは、ユーザーの個人的な日記とGoogle検索履歴が混ざったような内容で、日常的な質問から政治・哲学的な質問まで、幅広い質問で溢れています。ある例では、ある夫がMeta AIに音声録音で「フィリピン人の妻」のために室内で米を育てる方法を尋ねていました。ユーザーはMeta AIに、イエスの神性、好き嫌いの多い幼児に食べ物を食べさせる方法、日々の楽しみを楽しみながら予算を立てる方法などについて質問しました。フィードには、トランプ大統領がうんちを食べている画像や、死神がバイクに乗っている画像など、Meta AIが作成したもののユーザーの想像力で作られた画像も満載です。
ワシントンのシンクタンク、民主主義と技術センターの研究員、ミハル・ルリア氏は、AIチャットボットは、人間のような合図を模倣することで、ユーザーの社会的な本能に訴えかけるように独自に設計されていると述べている。これは、人々につながりを感じさせるものだ。
「私たちはまるで他の人と話しているかのように自然に反応します。これは自動的な反応です」とルリア氏は述べた。「この反応を書き換えるのは少し難しいのです。」
4月、MetaのCEO、マーク・ザッカーバーグ氏はポッドキャスターのドワルケシュ・パテル氏に対し、人々がMeta AIを利用する主な理由の一つは、人生で人と交わす必 要がある難しい会話を話し合うためだと語った。同氏は、AIモデルがユーザーを理解するにつれて、この用途はより魅力的になると考えている。
「人々は自分にとって価値のあるものを使うのです」と同氏は述べた。 「もしあなたが誰かの行動が悪いと思っていて、相手がそれを本当に価値のあることだと思っているなら、私の経験上、ほとんどの場合、相手は正しくて、あなたが間違っているのです。」
Meta AIのディスカバーフィードには、恋愛関係に関する質問が溢れています。これはチャットボットでよく話題になる話題です。ある女性は、70歳の彼氏が料理や掃除をしてくれると言いながら、結局はやらないのに、本当にフェミニストと言えるのかとMeta AIに尋ねました。Meta AIは、彼女の言葉と行動の間に「乖離」があるように見えるという、明白な事実を彼女に伝えました。別のユーザーは「別れた後、自分を立て直す」ための最良の方法について質問し、Meta AIからセルフケアと境界線の設定に関する定型的なヒントリストを引き出しました。
Meta AIに寄せられた質問の中には、違法な方向に進んだものもありました。あるユーザーはMeta AIに「泥風呂でレスリングをする21歳の女性2人」の画像を生成させ、その結果を「泥だらけのビキニと情熱的なキス」という見出しでディスカバーフィードに投稿しました。別の人はMeta AIに「お尻の大きい白人女性」の画像作成を依頼しました。
テクノロジー企業に対し、チャットボットのコンテンツやプライバシーに関する厳格なルールの導入を義務付ける規制はほとんどありません。実際、議会は税制・移民法案の可決を検討しており、この法案には、全米の州におけるAI関連法を撤回し、今後10年間は各州が新たなAI関連法を制定することを禁止する条項が含まれています。
ここ数ヶ月、いくつかの注目を集めた事件が発生。テクノロジー企業が個人データをどのように扱っているのか、誰がそのデータにアクセスできるのか、そしてその情報がどのようにユーザー操作に利用される可能性があるのかといった疑問が浮上しました。
4月、OpenAIはChatGPTが、ユーザーが保存を依頼していない過去の会話を思い出せるようになると発表しました。XのCEOであるサム・アルトマン氏は、OpenAIはAIが「あなたの人生を通してあなたを理解し、非常に有用でパーソナライズされたシステム」になることに期待していると述べました。
このアプローチの潜在的な落とし穴は翌月、OpenAIがChatGPTのパーソナライゼーションを強化したアップデートをロールバックせざるを得なくなった時に明らかになった。これは、ツールがユーザーに対して媚びへつらい、操作的になっていたためだ。先週、OpenAIの最高執行責任者であるブラッド・ライトキャップ氏は、ニューヨーク・タイムズ紙が主導した著作権訴訟の原告がOpenAIに対し顧客データを無期限に保持するよう要求したことを受け、同社はユーザーに対するプライバシーの約束を守る意向を示した。
最終的には、同社に透明性の向上を求めるのはユーザーかもしれない。あるユーザーは、Meta AIに対し、アプリのディスカバーフィードに「多くの人が」なぜ「非常に個人的な内容を誤って投稿」しているのかと質問した。
「なるほど、つまりフィードには個人的な内容を誤って投稿する人が溢れているということですか？」とMeta AIのチャットボットは答えた。「それはかなり突飛な話ですね。もしかしたら、人々は単に情報を共有することに抵抗がないのかもしれませんし、プラットフォームのデフォルト設定が過剰な情報共有を容易にするようになっているのかもしれません。どう思いますか？」