インシデント 1309: シュプリンガー・ネイチャーの書籍『生成AIの社会的、倫理的、法的側面：ツール、テクニック、システム』が、多数の捏造された、あるいは検証不可能な引用文とともに出版されたと報じられてい る。
概要: シュプリンガー・ネイチャーが2025年6月に出版した『生成AIの社会的、倫理的、法的側面：ツール、テクニック、システム』には、追跡不可能とされる多数の学術論文引用が含まれていると報告されています。複数の研究者による独立した分析の結果、特定の章の参考文献のかなりの部分が検証できず、存在しないジャーナルへの引用も含まれていることが判明しました。引用パターンは、既知の大規模言語モデル幻覚行動と一致しているように見えると報告されています。
Alleged: Large language model developers と Generative AI developers developed an AI system deployed by Srikanta Patnaik , Jair Minoro Abe , Kazumi Nakamatsu , Francesco Vigliarolo , Springer Nature と Unnamed chapter authors, which harmed Academic researchers , AI researchers , Readers of academic and technical publications , Students と Epistemic integrity.
関与が疑われるAIシステム: Unknown generative AI systems と Large language models
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
3.1. False or misleading information
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Misinformation
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムラ イン
Loading...
世界最大級の学術出版社が、人工知能研究の倫理に関する書籍を販売している。この本には、存在しない学術雑誌への言及など、偽の引用が散見される。
学術出版は最近、AIを用いて作成された偽造論文を、高い基準を保証するために設計された査読プロセスを通過した論文として受け入れているとして批判にさらされている。
タイムズ紙は、ドイツとイギリスの出版大手シュプリンガー・ネイチャーが最近出版した書籍に、捏造されたとみられる引用が数十件含まれていることを発見した。これは、多くの場合、AIによって…
バリアント
「バリアント」は既存のAIインシデントと同じ原 因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
