标签:ICLR

AI Scientist首发科学论文进军ICLR,Transformer助力Sakana AI实现全程零人工干预得分6/7/6

第一段 令人惊叹的是,一篇完全由人工智能生成的学术论文成功通过了ICLR研讨会的评审!这篇论文获得了6/7/6的高分,甚至超过了人类作者的平均接收门槛。整篇论文结构完整,包括图表和论据,看起来非常专业。这篇论文是由AI Scientist 2.0版本完成的,背后的支持公司是Sakana AI,其创始人之一Llion Jones也是Transformer论文的作者之一。 第二段 新版本的AI Scientist 2.0是一个通用端到端代理系统,与之前的版本相比,它不再依赖人工模板,能够自主提出假设、运行实验、分析数据并撰写科学论文。此外,它的图表理解能力也...

8/8/6/3的Mamba论文,最终还是被ICLR 2024拒了,网友:悬着的心终于死了

ICLR 2024 拒绝了备受关注的 Mamba 论文,尽管它曾被誉为 Transformer 的强有力挑战者。Mamba,一种选择性状态空间模型,因其在语言建模上的卓越表现和线性扩展能力而受到热议。然而,审稿人指出论文在评估方法上存在问题。主要问题包括缺乏长序列建模基准 LRA 的结果和对困惑度作为主要评估指标的质疑。尽管两位审稿人给予正面评价,但一位资深专家提出,低困惑度不一定代表实际NLP应用的改进。论文在反驳阶段未能充分解决这些问题,导致被拒。这一事件让人联想到十年前 Word2vec 的首次投稿被 ICLR 拒绝,但后来在 NeurIPS...