レポート 6300

世界で最も人気のあるチャットボット「ChatGPT」の開発元は今週、インターネットの閲覧をよりスマートにすることを約束するウェブブラウザをリリースしました。その見返りとして、ChatGPT Atlasは、ユーザーがオンラインで行うすべての行動を監視し、記憶する許可を求めています。

OpenAIが開発したこのブラウザは、Google Chromeよりも優れた監視機能を備えており、これは驚くべき事実と言えるでしょう。このブラウザは、ユーザーがどのウェブサイトにアクセスしたかを記録するだけでなく、そのサイトで何を閲覧し、何をしたかという「記憶」も保存します。マウスを制御して、ユーザーに代わってブラウジングすることさえ可能です。

Atlasの新しい人工知能機能が、データ収集に費やすだけの価値があるほど有用であるかどうかを評価するには、まだ時期尚早です。しかし、プライバシーへの影響は甚大であり、Atlasが記憶する情報を管理するためのコントロールは、せいぜい分かりにくいものとなっています。

どのブラウザを選ぶかは、多くのリスクを伴います。ブラウザは、日々のインターネットへの入り口であり、企業が広告のターゲティングや特定のサイトへの誘導、行動や興味関心に基づいたAIの学習に利用できる、有益な情報の集積地です。

AIを活用してブラウザを刷新しようとしているのは、OpenAIだけではありません。検索エンジンのPerplexityはCometというブラウザを開発しており、Googleはここ数ヶ月でChromeにGeminiボットを追加しました。さらに、AIがユーザーに代わってタスクを実行できるエージェント機能も間もなく追加すると発表しています。（ワシントン・ポストはOpenAIおよびPerplexityと提携しています。）

では、Atlasは実際には何をするのでしょうか？ウェブサイトや情報を見つけるための主な情報源として、Googleの代わりにChatGPTを使用します。右上にある「ChatGPTに質問」ボタンを使うと、閲覧しているページについてボットとチャットできます。例えば、記事の要約やデータ分析を依頼できます。また、メールの下書きの修正といったタスクも、ワンクリックでChatGPTにアクセスできます。

「目標は、ウェブ閲覧中にChatGPTがユーザーと連携しやすくすることでした」と、OpenAIのAtlasプロダクトリーダーであるアダム・フライ氏は述べています。

しかし、Atlasのプライバシー慣行とコントロールを確認すると、より深刻な事実が明らかになりました。裏では、ユーザーについてより深く学ぼうとしているのです。設定時に許可を与えると、ブラウザはユーザーが訪問したサイトに関する記憶を蓄積し、「必要なときに」表示します。「先週タブで見ていたハロウィンの飾りを開いて」とAtlasに指示すれば、その通りに実行できます。

Atlasはウェブサイトのアドレスだけでなく、OpenAIが自社サーバーで作成したコンテンツの要約に基づいて、サイト自体から「事実と洞察」も記憶します。フライ氏によると、Atlasはユーザーが近々旅行の予定があること、デルタ航空を優先していること、Googleカレンダーを使用していることなどを記憶しているかもしれません。

これらの記憶が、ブラウザ全体でのユーザー体験を形作っているのです。 ChatGPTは、今後のチャットでAtlasの記憶に基づいて応答をカスタマイズします。また、ブラウザのホーム画面には、「ベジタリアンレシピを探す」など、次にすべきことをパーソナライズした提案が表示されます。

（対照的に、Google ChromeはGeminiにウェブページの内容に関する記憶を保存させません。しかし、Geminiは、ユーザーが要求すれば、ウェブ閲覧履歴に関する質問に答えることができます。）

このレベルのパーソナライズは、理解しにくく、ましてや制御が難しいプライバシーリスクをもたらします。AIに記憶させておいて将来的に再び取り上げてほしいと思うこともあれば、人間関係のトラブルや午前2時に調べた恥ずかしい病状など、絶対に取り上げたくないこともあります。

Atlasが何を記憶し、何を記憶しないのかについての詳細は、すぐに混乱を招きます。 OpenAIによると、記憶には作業中のタスクや好みは含まれる可能性があるが、ページ全体の内容は含まれないという。Atlasは政府発行の身分証明書、銀行口座番号、住所、パスワード、医療記録、金融情報を記憶することはない。また、アダルトサイトのコンテンツを記憶することも想定されていない。

しかし、電子フロンティア財団のスタッフテクノロジストであるLena Cohen氏によると、テストの結果、Atlasは「Planned Parenthood Directを介した性と生殖に関する健康サービス」への登録に関する記憶を保持していたことが判明した。また、実在の医師の名前に関する記憶も保持していた。「Atlasブラウザによる広範なデータ収集は、ユーザーにとってプライバシーの悪夢となる可能性がある」と彼女は述べた。

Atlasの記憶を制御することは可能だが、手間がかかる。アドレスバーで、特定のウェブサイトを記憶しないようにAtlasに指示できる。閲覧履歴を消去すると、その期間の記憶も消去される。設定画面では、Atlasの記憶リストが表示され、個別に、または一度にすべて削除できる。しかし、このメモリファイルは、ChatGPTが既にユーザーについて保存しているファイルとは別のものです。

Atlasは、ユーザーの履歴や記憶にデータを追加しない「シークレット」モードを提供しています。しかし、Chromeの誤解を招きやすい名前のモードと同様に、実際には他のウェブサイトやChatGPT自体からユーザーを隠すわけではありません。

企業は、ユーザーにデータ収集の制御権を与えていると主張しがちです。しかし、プライバシー設定を分散して提供することは、意味のある制御とは同義ではありません。747型機にも多くの制御機能が搭載されています。しかし、だからといって誰でも操縦できるわけではありません。

「私たちはメモリをAtlasの製品機能を強化するためにのみ使用しています。他の目的ではありません」とフライ氏は述べています。「ここでのデータの使用方法は、興味関心に基づくプロファイルを構築するソーシャルメディア企業とは全く異なります。」

また、OpenAIは広告事業も行っていないと彼は述べています。今のところは。

オンライン監視は深刻な結果をもたらす可能性があります。政府はOpenAIにユーザーの閲覧データや記憶の提供を求めることができるのでしょうか？もしOpenAIが、中絶など、特定の州で違法とされている活動を研究している場合はどうなるのでしょうか？ OpenAIは私の質問にすぐには回答しませんでした。

Atlasは、ある点においてより保守的なアプローチを採用しています。デフォルトでは、ブラウザのコンテンツをAIのトレーニングに使用しません。ただし、必要に応じて有効にする設定があります。（これは、ChatGPTの会話をトレーニングに使用できるかどうかとは別のもので、これはデフォルトで有効になっています。）

Atlasは、AIにブラウザを操作させることで新たなリスクも生み出します。これらのエージェントは、ショッピングに出かけたり、私が最近書いたようにサブスクリプションの解約を手伝ったりしたりすることができます。しかし、AIエージェントは依然としてミスを犯しやすいものです。そして、エージェントがログイン認証情報や支払い情報を使ってブラウザにアクセスできる場合、その権限を委譲するのは非常に困難です。

Fry氏によると、Atlasでは、ブラウザの完全にクリーンなバージョンでエージェントモードを使用できるとのことです。また、金銭に関わる特定の高リスクタスクは、ユーザーがAIの動作を監視できるモードでのみ実行されます。

ブラウザは、Webへのシンプルなウィンドウから、高度なデータ収集ツールへと進化しました。Atlasはブラウジングの利便性を向上させる可能性がありますが、それはAIを生活の奥深くまで受け入れることに抵抗がない場合に限ります。