暂无菜单项

ArXiv出手了:用AI写论文不检查?直接封号1年

发布于
1

预印本平台ArXiv最近干了件大事。他们更新了 submission 政策——以后要是你的论文里出现”AI完全代写且没人工核对”的实锤证据,作者会被封号整整一年。

这事儿说起来挺有意思。ArXiv那帮管理者(领导核心是计算机科学版块主席Thomas Dietterich)直接在X和Bluesky上发了公告,核心意思很明确:如果发现论文里有”无可争议的证据”证明作者根本没检查LLM生成的结果,那整篇论文的内容都不可信。

“如果发现论文存在无可争议的证据表明作者未检查LLM生成的结果,这意味着我们无法信任论文中的任何内容。”——Thomas Dietterich,ArXiv计算机科学版块主席

什么样的证据算”无可争议”?

Dietterich说得很具体:幻觉参考文献(hallucinated references)、论文里残留的LLM提示词或对话记录,这些都属于”铁证”。一旦被发现,处罚很直接——1年内禁止向ArXiv提交任何论文,1年后再想投稿,必须先在有同行评审的知名期刊/会议上发表过才能解锁资格。

Business research concept
学术研究需要真实贡献,而非AI生成的”垃圾论文” (图片来源:Getty Images)

注意啊,这政策不是”完全禁止用LLM”。人家说得清清楚楚:你可以用AI辅助写作,但必须对生成的内容”负全部责任”,不管内容是咋生成的。如果你直接从LLM复制粘贴了”不合适的语言、抄袭内容、偏见内容、错误、失误、不正确的参考文献或误导性内容”——那都是你的责任。

执行方式:一次出局

Dietterich跟404 Media说,这是”一次出局”(one-strike)规则。不过执行前得走流程:版主先标记问题,然后版块主席确认证据,最后才处罚。作者要是不服,也可以申诉。


为啥现在管这么严?

最近有同行评审研究发现,生物医学研究领域伪造引用的情况在飙升,大概率跟LLM的使用有关。其实不止科学家,好多人都被AI生成的假参考文献坑过。

ArXiv这两年一直在跟”AI垃圾论文”斗智斗勇。之前就已经要求首次投稿的作者必须找个”有信誉的作者”背书,现在又出了这个1年封号的政策。再加上ArXiv刚从康奈尔大学独立出来变成非营利组织,筹钱能力更强了,估计后续还会有更多手段来对付AI slop。

  • 政策并非完全禁止LLM,而是要求作者对内容负责
  • “铁证”包括幻觉参考文献、残留的LLM对话记录等
  • 处罚:1年封号 + 后续投稿需先通过同行评审
  • 执行流程:版主标记 → 版块主席确认 → 处罚(可申诉)
0 点赞
0 收藏
分享
0 讨论
反馈
0 讨论
热门最新
总结
暂无总结
0 / 600