イギリスのマンチェスターに住む演劇教授のデイビッド・メイヤー氏は、人生の最後の数年間、不幸な偶然の連鎖的な結果に直面した。テロ監視リストに載っていたチェチェンの反乱軍の死者が、かつてメイヤー氏の名前を偽名として使っていたのだ。
家族によると、本物のメイヤー氏は旅行計画を妨害され、金融取引は凍結され、重要な学術通信はブロックされた。そのフラストレーションは、2023年に94歳で亡くなるまで彼を悩ませた。
しかし今月、彼のアイデンティティーを守る闘いが再び注目を集めた。鋭い目を持つユーザーが気づいた ある名前がOpenAIのChatGPTボットをシャットダウンさせていたのだ。
デイビッド・ メイヤー。
ユーザーがボットに「デイビッド・メイヤー」と言わせようとさまざまな方法で試みたが、エラーメッセージが表示されたり、ボットが単に応答を拒否したりした。なぜこの名前がボットサービスにとっての弱点だったのかは不明で、OpenAIは教授の苦境がChatGPTの名前に関する問題に関係していたかどうかについては言及しなかった。
しかし、この騒動は、生成型AIとそれが駆動するチャットボットに関する最も厄介な疑問のいくつかを浮き彫りにしている。なぜこの名前がチャットボットをノックアウトしたのか？誰が、あるいは何がその決定を下しているのか？そして、間違いの責任は誰なのか？
「これは彼が喜んでいたことだろう。なぜなら、彼が対処しようとした努力が報われたはずだからだ」とメイヤー氏の娘キャサリンさんはインタビューでこの大失態について語った。
ChatGPTは、インターネット全体から集めた例で訓練された統計モデルに基づいて、どのテキストがシーケンス内で一緒に属しているかを確率的に推測することで応答を生成する。しかし、その推測は必ずしも完璧ではない。
「これらの大規模言語モデルが抱える最大の問題の 1 つは、幻覚を起こすことです。不正確なものを作り上げてしまいます」と、オックスフォード大学で倫理と新興技術を研究する教授、サンドラ・ワクター氏は言う。「突然、法的に問題のある環境に身を置くことになります。このようなことが、一部のプロンプトがブロックされた理由の 1 つである可能性もあると思います」。
結局のところ、ChatGPT を妨害したのはメイヤー氏の名前だけではない。「ジョナサン・ターリー」と入力すると、依然としてエラー メッセージが表示されます。「デイビッド・フェイバー」、「ジョナサン・ジットレイン」、「ブライアン・フッド」も同様です。
一見すると、これらの名前にはあまり共通点がないように見えます。ターリー氏は Fox News の法律アナリスト兼法学教授、フェイバー氏は CNBC のニュース キャスター、ジットレイン氏はハーバード大学教授、フッド氏はオーストラリアの市長です。
両者を結びつけているのは、ChatGPTのプラットフォームから彼らを遠ざけるプライバシー規定かもしれない。フッド氏は、ChatGPTが彼が賄賂で逮捕されたと虚偽の主張をした後、OpenAIに対して法的措置を取った。ターリー氏も同様に、チャットボットが、彼がセクハラを犯したという、存在しないような告発に言及したと述べた。
「学者にとって、そのようなアカウントで虚偽の名前が挙げられ、エラーが発生した後にプログラムによって事実上消去されることは、かなりぞっとするものです」とターリー氏は電子メールで述べた。「同社の対応と透明性の欠如は特に懸念されています。」
ジットレイン氏は、テクノロジーとデジタル空間における「忘れられる権利」について講義を行ってきた。忘れられる権利とは、不正確または無関係とみなされる情報を含むサイトへのリンクを検索エンジンに削除させる法的基準である。しかし、同氏はXの投稿で、OpenAIのアルゴリズムから除外するよう求めていないと述べている。インタビューで、彼はしばらく前にチャットボットの不具合に気付いていたが、なぜそうなったのかはわからなかったと語った。
「こうしたものの 基本的な構造は、いまだに『フォレスト・ガンプ』のチョコレートの箱のようなものだ」と彼は語った。
メイヤー氏に関しては、今週ChatGPTによって不具合が修正されたようで、今では「デイビッド・メイヤー」という名前は問題なく言えるようになった。しかし、他の名前ではボットが機能しなくなる。
OpenAIの広報担当者メティン・パーラック氏は声明で、同社は個別のケースについてはコメントしないとした。「ChatGPTがプライバシー保護のため、特定の情報を提供しないケースもあるかもしれない」と同氏は述べた。
OpenAIは「デイビッド・メイヤー」という名前に関する具体的な状況について話すことを拒否したが、ツールがプライバシー保護のために誤ってその名前にフラグを付けたと述べた。この不具合は修正された。
今週、メイヤー氏の名前をこれまで言えなかった理由について尋ねられたChatGPTは、よくわからないと答えた。
「そこで何が起こったのかはわかりません！」とボットは言った。「通常は、有害またはプライベートな内容に関連しない限り、『デイビッド・メイヤー』を含め、どんな名前でも言及できます。」
ボットはメイヤー氏の以前の氏名に関する苦境について何も情報を提供できず、この件について入手可能な情報源はないと述べた。この件に関するいくつかの主流メディアの記事を指摘したが、チャットボットはその矛盾を説明できなかった。
メイヤー氏についてさらに詳しく尋ねられたチャットGPTは、メイヤー氏の学者および教授としての業績のみを指摘したが、メイヤー氏の名前に関する問題については語ることができなかった。
「 あなたは、デイビッド・メイヤー教授とチェチェンの反政府勢力に関する非常に具体的で潜在的にデリケートな事件について言及しているようです。これは、メイヤー氏が亡くなる前の数年間に大きなニュースやスキャンダルになっていた可能性があります」とボットは言った。「残念ながら、私のトレーニングデータにはその特定の事件に関する直接的な情報はありません。」
その後、ユーザーに質問を調べるよう提案した。