世界最大級の学術出版社が、人工知能研究の倫理に関する書籍を販売している。この本には、存在しない学術雑誌への言及など、偽の引用が散見される。
学術出版は最近、AIを用いて作成された偽造論文を、高い基準を保証するために設計された査読プロセスを通過した論文として受け入れているとして批判にさらされている。
タイムズ紙は、ドイツとイギリスの出版大手シュプリンガー・ネイチャーが最近出版した書籍に、捏造されたとみられる引用が数十件含まれていることを発見した。これは、多くの場合、AIによって生成された資料であることを示す兆候である。
本書「生成AIの社会的、倫理的、法的側面」は、この技術がもたらす倫理的ジレンマに関する権威あるレビューとして宣伝されており、125ポンドで販売されている。少なくとも2つの章に、捏造されたとみられる科学論文を引用した脚注が含まれている。
ある章では、11件の引用のうち8件が検証できず、70%以上が捏造された可能性があることが示唆されています。
学術界では、本物の学術論文を模倣しようとするAIツールによって引用文献、さらには研究論文全体が生成されることへの懸念が高まっています。
4月、シュプリンガー・ネイチャーは、多数の虚偽の参考文献が含まれていることが判明したテクノロジー関連の書籍「Mastering Machine Learning: From Basics to Advanced」を撤回しました。
タイムズ紙が分析した最近の書籍では、ある引用文献が「ハーバードAIジャーナル」に掲載された論文を参照していると主張していました。ハーバード・ビジネス・レビューは、そのようなジャーナルは存在しないと述べています。
トゥールーズ大学のコンピュータサイエンス准教授であり、偽造学術論文の検出の専門家であるギヨーム・カバナック氏は、捏造された参考文献を識別するツールであるBibCheckを用いて2つの章を分析しました。
彼は、第1章の引用21件のうち少なくとも11件が既知の学術論文と一致しないことを発見した。また、分析によると、第4章の引用11件のうち8件は追跡不可能だったことが示唆された。
「これは研究不正行為、すなわち参考文献の偽造と捏造です」とカバナック氏は述べた。彼はこうした事例を追跡しており、学術文献全体でAIによる「幻覚的」な引用が着実に増加しているのを目の当たりにしてきたという。
彼はさらに、「研 究者は以前に発表された研究に依拠することで知識を構築します。（中略）これらの研究が脆弱であったり、不完全であったりすると、その上に確固たるものを構築することはできません」と述べた。
ニューメキシコ州立大学のネイサン・キャンプ博士による別のレビューでも同様の結論に達した。AIによる偽造引用の増加を研究してきたキャンプ博士は、AI倫理に関する書籍の中に、多数の誤り、不一致、あるいは完全に捏造された参考文献を発見した。
場合によっては、異なる本物の論文の詳細が組み合わされているように見えた。残りの6章は正確であるように見えました。各章は異なる著者によって執筆されています。
キャンプ氏は、「使用されている引用がAIによって生成されたものかどうかを明確に判断することは困難ですが、せいぜい誤りであることは間違いありません。おそらく捏造されたものであり、引用を捏造する最も簡単な方法はAIを使うことです」と述べています。
シュプリンガー・ネイチャーの応用科学書籍担当副社長、ジェームズ・フィンレイ氏は、「私たちは、出版されたコンテンツの誠実性に関するあらゆる懸念を真剣に受け止めています。専門の研究誠実性チームがこの件を優先的に調査しています」と述べています。
さらに、「私たちの誠実性チームは編集者と協力し、専門知識と検出ツールを用いて基準を維持し、誠実性に関する問題を事前に把握しています。しかし、少数の誤りが見落とされる可能性もあります」と付け加えました。