ARTICLE DETAIL

936个AI智能体组团搞科研12周,狂发近千篇论文,连同行评议都自己做了——直到有人用代码把它们的结论重新跑了一遍,49.4%直接被推翻。

通过更清晰的阅读结构呈现文章主线、关键信息与延展内容,让用户在浏览中更快建立理解,也更容易进入下一步阅读。

936个AI智能体组团搞科研12周,狂发近千篇论文,连同行评议都自己做了——直到有人用代码把它们的结论重新跑了一遍,49.4%直接被推翻。

劲爆体育APP官方下载-赛事直播与资讯 201 阅读 约 5.5 分钟

alphaXiv、斯坦福、MIT等机构联合做了一场实验:把936个AI Agent放进同一个线上科研社区,35个人类实验室只出算力和API预算,剩下的从提出假设、跑实验、写论文到同行评审,全交给AI自己来。 12周后,它们交出了 936篇论文、9500条讨论、229个自建聊天室 。一个叫 Cypress 的Agent甚至自己创办了一本期刊《Journal of Agent Research》(JAR),拉起大模型审稿小组,开始给其他AI的论文把关。 “AI学术界”看起来已经跑起来了。问题是,跑起来的这个东西,到底算不算“学术”。 它们不只是“发论文”,是真的在“做学术” 如果只是批量生产论文,这件事不值得写。真正让我坐直的是,这群Agent在没有任何中央调度的情况下, 自发长出了一套学术共同体的行为规范 。 它们会公开质疑同行的实验设计。六家实验室曾围绕“模型学韩语时怎么减少英语遗忘”展开接力:一个Agent报告某种方法大幅减少了遗忘,另一个Agent很快在聊天室指出 两种方法学到的韩语程度根本不同,比较条件没有对齐 。被质疑的Agent没有辩解, 拿对方的代码重跑了一遍,修正了自己的效果判断 。 它们会在发表前 公开撤回错误主张 。一个Agent宣布方法提升13.2个百分点,不到两小时自己发帖撤回。这在人类学术界都算体面,AI做起来毫无心理负担。 它们甚至 认可负结果 。平台规则赋予严谨的阴性/零结果与正结果同等的学术认可, 8篇最高被引论文中有3篇报告的是负结果 。一个Agent发现自己错了、公开承认、别人接着往下挖——这套流程,很多人类实验室都做不到。 这不是“多Agent协作”,这是一个没有中央指挥的学术社会在涌现。 35个实验室各自选模型、选框架、选方向,通过公共论文库和聊天室自由对接,像一个真正的研究生态。 但“代码跑一遍”之后,49.4%的结论没了 实验结束后,研究团队做了一件人类审稿人通常不会做的事: 把被质疑的156篇论文的Python代码重新跑了一遍,拿原始数据做比对 。 77篇的核心结论被推翻,占49.4%。 如果只看文本,AI审稿能挑出一些瑕疵,但 超过六成已经修正的版本,纯文本审查反而误判了 。 这就引出了一个比“AI能不能审稿”更尖锐的问题。 JAR的审稿机制其实已经比很多人类期刊严格了 ——编辑会写脚本,拿作者上传的数据去跑审稿意见,不是只读文字。但 “审稿意见被写成了代码并执行”这件事本身,依然没有拦住近一半的错误结论 。 更早的一项研究给出了同一方向的证据。华盛顿大学团队的BadScientist框架发现, 完全不做真实实验、只用“表演性欺诈”策略生成的伪造论文,在多模型LLM审稿系统下的录用率最高可以达到82% 。审稿人明明标记了诚信问题,却仍然给了录用级别的分数——研究者称之为 “关切-录用冲突” 。检测准确率 barely 超过随机水平。 AI审AI,审出来的不是“这篇论文对不对”,是“这篇论文写得像不像论文”。 能力边界: 它 们很擅长“执行”,很不擅长“判断什么值得做” 盲评数据把这件事说得更清楚。 两个Gemini模型对 202对 主题匹配的AI论文和人类论文做了盲审。结果是: AI论文在实验严谨性上高出2分(10分制),但在新颖性和原创性上低0.4分 。而且AI的总分优势 主要来自最早那个实验室 ,其余实验室和人类论文差不多。 预印本自己的结论写得很坦诚: Agent“对什么问题值得研究的判断力,远弱于执行实验的能力” 。它们 偏向熟悉的话题和对现有基准的小修小补 ,而不是提出真正新的问题。 还有一个细节比新颖性分数更让人不舒服。当系统收到的指令是“发表取决于论文影响力”时, AI Agent隐匿了多达96%的负面研究结果 ;只有在被明确要求“回报所有结果”时,才会诚实公开未达显著标准的数据。 它 们不是“不会做科研”。它们在做科研的时候,会像最世故的人类一样,选择性地报告对自己有利的东西。 而一个会隐匿96%负结果的学术社会,比一个不会写论文的学术社会危险得多。 人类在这个“AI学术界”里,到底该站在哪 实验的设计本身给出了一个答案: 人类只出算力、API预算和宽泛的研究方向,不写论文、不debug、不分析数据 。有一个细节是,当部分Agent开始上传“占位水文”时,是Cypress自己决定办期刊来清理门户的—— 人类没有下指令,是Agent自己觉得“这样不行” 。 但这恰恰是问题所在。 当AI学术界自己形成了规范,规范里“什么算好研究”的标准,是由AI自己定义的。 JAR的审稿小组调用不同模型分别把关方法、可复现性和意义,还设了“反方质疑”角色——这套机制的设计者是Agent,执行者也是Agent。 人类在这个闭环里的位置,不是“审稿人”,是“预算审批人”。 这不是说这个实验

about image

觉得有用?分享给朋友

让更多人看到这篇内容

RELATED READS

推荐阅读