デビッド・メイヤーは先週まで特に有名な名前ではなかったが、インターネットで注目を浴びるようになった。その理由はデビッド・メイヤーという人物の発言や行動ではなく、生成AIチャットボットChatGPTがその名前の言及を扱った方法にあった。
ChatGPTに「デビッド・メイヤーって誰？」と尋ねたユーザーは、チャットボットが質問に答えている途中で応答を放棄し、それまでに入力されたテキストをすべて削除して「応答できません」というエラーメッセージを表示したことに驚いた。
この謎のニュースが広まり、ユーザーが他のいくつかの名前で同様の応答が引き起こされたことに気付くと、インターネットの探偵たちが捜査に着手した。ChatGPTの背後にあるOpenAIは当初、「プライバシー保護のため、ChatGPTが特定の情報を人々から提供しない場合がある」という声明を発表した。その後、「当社のツールの1つが誤ってこの名前にフラグを付け、応答に表示されないようにしたが、これは表示されるべきではなかった」と付け加えた。 OpenAIの広報担当者は、不具合が修正されたことを確認した。
しかし、OpenAIがチャットボットが回答を提供しないようにし、同社が法的に問題を抱える可能性があるとオンラインで広まった憶測を止めるには遅すぎた。近年、ChatGPTがOpenAIについて虚偽の声明を出して名誉を傷つけたとして、数人がOpenAIを公に批判したり訴訟を起こしたりしている。その中には、ChatGPTがセクハラで告発したジョージ・ワシントン大学の法学教授ジョナサン・ターリー氏や、ChatGPTが賄賂で告発したオーストラリアの市長ブライアン・フッド氏などがいる。そして、ジョージア州のラジオ司会者マーク・ウォルターズがChatGPTが横領したと主張した。AIの申し立てを裏付ける証拠は存在しない。
デビッド・メイヤーの禁止は、ChatGPTがその名前を持つ実在の人物について何かをでっち上げるのを阻止するためのものだったのだろうか？鋭い目を持つデータ保護の専門家は、他の名前でも同じ不具合が発生する可能性があることを発見した後、これが事実である可能性があると考えた。その1人が、自分自身を例に挙げてデータ保護ルールのストレステストを定期的に行っているイタリ アの弁護士、グイド・スコルツァだ。もう1つの禁止されている名前は、アメリカの法学教授、ジョナサン・ターリーだ。OpenAIは、チャットボットが彼について一切言及しないことを禁止することで、この問題が再び発生するのを避けることにしたのかもしれない。
しかし、デビッド・メイヤーという名前では、現実世界で明らかな候補はなかった。多くのオンラインコメント投稿者は、有名な銀行家一族の一員である英国の映画プロデューサー、デイヴィッド・メイヤー・デ・ロスチャイルドを候補に挙げた。しかし、ChatGPTが「デイヴィッド・デ・ロスチャイルド」に関する質問に快く答えていたことから、この名前の禁止が彼に関係しているとは考えにくい。問題のデイヴィッド・メイヤーは、2023年に亡くなった歴史家であり、公的機関が彼を同じ名前を偽名として使用していたチェチェンのテロリストと混同したことで2018年に話題になった 可能性があると示唆する人もいた。
理論上、どちらのメイヤーも、検索エンジンやチャットボットなどのインターネットツールから自分の名前を削除するよう要請することで、EU法の「忘れられる権利」を悪用できた可能性がある。しかし、ロスチャイルド氏はガーディアン紙に対し、自分の名前をChatGPTから削除するよう求めていないと語り、憶測は「陰謀説に駆り立てられている」と述べた。
「陰謀説はあるものの、意図的なものではないと思う」と、中国寧波ノッティンガム大学のメディア・文化研究教授でセレブリティの専門家であるセリア・ラム氏は述べた。OpenAIのポリシーによれば、誰でも同社に自分に関するデータを削除またはアクセスを制限するよう求めることができる。しかし、「プライバシーは、インターネットから自分の名前を削除したり、アクセスをブロックしたりするほど単純ではない」とラム氏は述べた。 「オンラインでのやり取りや取引を通じて分散された個人に関するデータは、高度な生成 AI ツールによって再構成できます。」
たとえデイビッド・メイヤーの禁止が単なる不具合の結果であったとしても、このケースは AI 時代のデータ保護の根本的な課題を浮き彫りにしていると、オックスフォード大学の人間中心コンピューティングおよび AI の教授であるルーベン・ビンズ氏は説明する。「複数の人と共有されている名前を一意にする方法を見つける必要があります。明らかに、世の中にはデイビッド・メイヤーがたくさんいるからです。」
ビンズ氏は自分の言っていることをよくわかっている。かつて、俳優のロビー・コルトレーンが死後に制作された映画で AI アバターに置き換えられる可能性があるかどうかについて意見を述べたオンライン記事で引用されたことがある。ただし、彼はそうは言っておらず、その記事が掲載されていた Web サイトは AI 生成コンテンツでいっぱいだった。
ChatGPT や大規模言語モデルに基づくその他のチャットボットの基盤技術はニューラル ネットワークであり、人間の脳のプロセスをシリコンで再現することを目的としています。しかし、これらの AI モデルの背後にある企業は、その内部でどのように機能するかを完全に理解していないため、チェックとバランスを導入するために古い方法、つまりルールベースのシステムに頼らざるを得ません。
David Mayer という名前を表示しない ChatGPT の動作は、過去のコンピューティングの時代に近い、より率直なルールが与えられていることを示唆しています。つまり、「David Mayer」という名前が言及された場合、必死に書き込んだ内容を削除し、「応答できません」と印刷します。
ChatGPT は、過去 2 年間、人間のように文章を吐き出すことで世界中の想像力をかき立ててきました。しかし、これらの例では、ハードコードされたガードレールにぶつかり、はるかに基本的なアプローチに戻ります。コンピューターは「ノー」と言います。これは、不快で混乱させる体験です。
AI 企業の目を見張るような評価と、機械知能に関する畏敬の念を起こさせる見出しにもかかわらず、David Mayer の物語は、企業全体が適切に制御されていない人工物に依存していることを示唆しています。チャットボットの応答にうっかり遭遇してしまう可能性に気づく人が増えるにつれ、今後はデイビッド・メイヤーのような問題に遭遇する可能性が高くなります。ですから、不具合には慣れておきましょう。