インシデント 1309: シュプリンガー・ネイチャーの書籍『生成AIの社会的、倫理的、法的側面：ツール、テクニック、システム』が、多数の捏造された、あるいは検証不可能な引用文とともに出版されたと報じられている。
概要: シュプリンガー・ネイチャーが2025年6月に出版した『生成AIの社会的、倫理的、法的側面：ツール、テクニック、システム』には、追跡不可能とされる多数の学術論文引用が含まれていると報告されています。複数の研究者による独立した分析の結果、特定の章の参考文献のかなりの部分が検証できず、存在しないジャーナルへの引用も含まれていることが判明しました。引用パターンは、既知の大規模言語モデル幻覚行動と一致しているように見えると報告されています。
Alleged: Unknown large language model developers と Unknown generative AI developers developed an AI system deployed by Srikanta Patnaik , Jair Minoro Abe , Kazumi Nakamatsu , Francesco Vigliarolo , Springer Nature と Unnamed chapter authors, which harmed Academic researchers , AI researchers , Readers of academic and technical publications , students と Epistemic integrity.
関与が疑われるAIシステム: Unknown large language models と Unknown generative AI systems
インシデントのステータス
インシデントID
1309
レポート数
1
インシデント発生日
2025-06-17
エディタ
Daniel Atherton
インシデントレポート
レポートタイムライン
Loading...
世界最大級の学術出版社が、人工知能研究の倫理に関する書籍を販売している。この本には、存在しない学術雑誌への言及など、偽の引用が散見される。
学術出版は最近、AIを用いて作成された偽造論文を、高い基準を保証するために設計された査読プロセスを通過した論文として受け入れているとして批判にさらされている。
タイムズ紙は、ドイツとイギリスの出版大手シュプリンガー・ネイチャーが最近出版した書籍に、捏造されたとみられる引用が数十件含まれていることを発見した。これは、多くの場合、AIによって…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
