DeepSeek首次回应蒸馏OpenAI质疑 ：没有故意加入合成数据

（由多段落组成）：

近日，人工智能领域迎来重磅突破——由DeepSeek团队主导、梁文锋担任通讯作者的最新研究成果《DeepSeek-R1》成功登上国际顶级科学期刊《Nature》封面，引发全球学术界与科技行业的广泛关注。该论文不仅系统阐述了DeepSeek在大模型训练中的创新路径，更首次公开回应了外界关于“模型蒸馏”和“数据来源”的质疑，展示了其技术独立性与科研严谨性。

针对网络上关于是否利用OpenAI生成进行模型蒸馏的争议，DeepSeek明确表示，其基础模型DeepSeek-V3-Base的训练数据完全来源于公开的网页和电子书资源，未主动引入任何合成数据。尤其是在预训练后期的“冷却阶段”，团队坚持使用通过常规爬虫抓取的真实网络数据，杜绝了人为掺入第三方AI生成文本的行为，确保训练过程的纯净性与可追溯性。

尽管如此，研究团队也坦承，在当前互联网环境中，部分网页已充斥着由先进语言模型（如OpenAI旗下产品）生成的回答。这意味着即便未主动采集，基础模型仍可能间接吸收这些高质量输出的知识，形成一种非刻意的“知识溢出”效应。不过，这种现象并非DeepSeek独有，而是整个行业在开放网络训练背景下普遍面临的现实挑战。

值得注意的是，DeepSeek-V3-Base所使用的训练数据截止至2024年7月，而当时市面上尚无任何开源或公开发布的高性能推理模型问世。这一时间节点有效排除了模型通过模仿现有先进推理系统实现能力跃迁的可能性，进一步佐证了其推理能力源自内部算法优化而非外部复制。

在技术路线上，DeepSeek-R1采用了纯强化学习框架，并创新性地引入“组相对策略优化”（Group Relative Policy Optimization, GRPO）算法。该方法仅根据最终答案的正确性给予奖励信号，不依赖人类标注的推理过程，也不要求模型复现特定思维链。正是在这种高度自主的学习机制下，模型自发演化出了自我反思、逻辑校验和错误修正等类人高级认知行为，展现出强大的泛化与推理能力。

Hugging Face知名机器学习专家Lewis Tunstall对此评价道：“越来越多证据表明，纯粹的强化学习足以支撑顶尖级别的模型表现。”他认为，DeepSeek的技术路径极具说服力，其成果足以证明无需借助OpenAI模型蒸馏，也能训练出具备卓越推理能力的大语言模型，为行业提供了全新的发展方向。

此次登顶《Nature》封面，不仅是对DeepSeek科研实力的高度认可，也标志着中国本土AI团队在全球前沿AI研究中正占据越来越重要的位置。随着技术透明度的提升与开源生态的完善，DeepSeek有望推动更多基于自主可控架构的下一代AI系统发展。

DeepSeek，大语言模型，强化学习，模型蒸馏，Nature封面

本文来源： 快科技【阅读原文】