引用文献が捏造されているように見える機械学習入門書に169ドル払いますか？
もしそうでないなら、4月にSpringer Nature社から出版されたMastering Machine Learning: From Basics to Advancedの購入は控えた方が良いでしょう。
読者からの情報に基づき、本書に掲載されている46件の引用文献のうち18件を確認しました。そのうち3分の2は存在しないか、重大な誤りがありました。また、本書で引用されている3人の研究者は、自分が執筆したとされる論文が偽物であるか、引用文献に重大な誤りがあることを確認しました。
「この論文は私たちが書いたもので、正式に出版されたものではありません」と、本書で引用されているベングリオン・ネゲブ大学のコンピューター科学者、イェフダ・ダール氏は述べています。「arXivのプレプリントです。」引用文献には、論文がIEEE Signal Processing Magazineに掲載されたと誤って記載されています。
モントリオール大学のコンピュータサイエンス教授であり、書籍Deep Learningの共著者であるアーロン・クールビル氏は、本文自体は正しく引用されていましたが、「存在しないように見える」セクションについては正しく引用されていました。「194～201ページは特に存在しません」と彼は述べています。また、ギリシャのヘレニック・オープン大学のディミトリス・カレス氏も、自身を著者として記載した引用文献を執筆していないことを確認しています。
匿名を希望し、当方にメールを送信した研究者は、Google Scholarから、自身を引用している書籍に関するアラートを受け取っていました。彼の名前は複数の引用文献に記載されていましたが、引用文献は存在しません。
存在しない引用や誤りの多い引用は、ChatGPTのような大規模言語モデルによって生成されるテキストの特徴です。これらのモデルは、人間の著者のように文献データベースから出版済み論文を検索しません。代わりに、トレーニングデータとプロンプトに基づいてコンテンツを生成します。そのため、LLMによって生成された引用は正当なものに見えても、引用内容が捏造されている可能性があります。
本書の著者であるGovindakumar Madhavan氏は、コメント要請に完全に回答するためにさらに「1～2週間」の猶予を求めました。本書のテキスト生成にLLMを使用したかどうかを尋ねる私たちの質問には答えませんでした。しかし、彼は「コンテンツ（または問題）がAIによって生成されたものかどうかを確実に判断することは依然として困難です。人間が書いたテキストでさえ『AI風』に見えることがあるからです」と述べています。 LLM（法学修士）の流暢さと洗練度がますます向上するにつれ、この課題はますます深刻化すると予想されます。
本書に掲載されているマドハヴァン氏の経歴によると、同氏はSeaportAiの創設者兼CEOであり、約40のビデオコースと10冊の書籍の著者です。257ページの本書には、ChatGPTに関するセクションがあり、「この技術は、AI生成テキストの利用と誤用に関する重要な倫理的問題を提起している」と述べています。
シュプリンガー・ネイチャーは、著者に対しAIの利用に関するポリシーとガイダンスを提供していると、同社の書籍担当シニアコミュニケーションマネージャー、フェリチタス・ベレント氏はメールで私たちに語りました。著者がLLMを使用できることは認識していますが、投稿はすべて人間による完全な監視の下で行われ、基本的なコピー編集を超えるAIの使用はすべて宣言する必要があることを強調します。」
Mastering Machine Learningにはそのような宣言は含まれていません。同著におけるAIの使用の可能性について尋ねられたベーレント氏は、「当該の文章については認識しており、現在調査中です」と述べました。彼女は、シュプリンガー・ネイチャーの編集プロセスにおいて、AIポリシーの遵守を確保するために講じられた取り組みについてはコメントしませんでした。
LLMが作成した引用は、ロバート・F・ケネディ・ジュニアの「アメリカを再び健康に」報告書 とCDCのワクチン防腐剤チメロサールをめぐる論争の中心でした。Retraction Watchでは、私たちの共同設立者が、オーストラリア政府の研究の誠実性に関する報告書の中で、捏造された参考文献 として引用されたことがあります。偽の引用が研究 論文から減少し、未公開のChatGPTの使用の証拠を含む論文リストが長くなり、ほぼ確実にそれらのほんの一部のみを占めています。実際にそうするものもある。
ベーレント氏が私たちの質問に回答した同じ日に、シュプリンガー・ネイチャーは自社のブログに「書籍における研究の誠実性：人間による監視とAIツールのバランスによる予防策」と題した記事を掲載した。
同社のシニア・コンテンツ・マーケティング・マネージャー、デイドラ・ハドソン・ロ イス氏は、「すべての書籍原稿は、まず社内編集者によって評価され、提出された原稿をさらに査読に回すかどうかが決定されます」と述べている。「査読者（各分野の専門家）は、原稿の質と独創性を評価し、その妥当性と、最高水準の誠実性と倫理基準を満たしていることを確認します。」