李明辰, 钟博子韬, 余元玺, 姜帆, 张良, 谭扬, 虞慧群, 范贵生, 洪亮

合成生物学 2025, 6 (3): 636-650. DOI:10.12211/2096-8280.2025-041

摘要（319）

HTML （62）

PDF（pc）（1726KB）（201）

2025年年初，杭州深度求索人工智能基础技术研究有限公司发布并开源了其自主研发的DeepSeek-R1对话大模型。该模型具备极低的推理成本和出色的思维链推理能力，在多种任务上能够媲美甚至超越闭源的GPT-4o和o1模型，引发了国际社会的高度关注。此外，DeepSeek模型在中文对话上的优异表现以及免费商用的策略，在国内引发了部署和使用的热潮，推动了人工智能技术的普惠与发展。本文围绕DeepSeek模型的架构设计、训练方法与推理机制进行系统性分析，探讨其核心技术在AI蛋白质研究中的迁移潜力与应用前景。DeepSeek模型融合了多项自主创新的前沿技术，包括多头潜在注意力机制、混合专家网络及其负载均衡、低精度训练等，显著降低了Transformer模型的训练和推理成本。尽管DeepSeek模型原生设计用于人类语言的理解与生成，但其优化技术对同样基于Transformer模型的蛋白质预训练语言模型具有重要的参考价值。借助DeepSeek所采用的关键技术，蛋白质语言模型在训练成本、推理成本等方面有望得到显著降低。

以DeepSeek-V3模型和DeepSeek-R1模型的发布为标志，DeepSeek实现了将前期多项核心技术的整合，不仅显著提升了模型的生成质量，而且加速了模型的推理，相比于同样表现的其他模型具备更低的部署成本，引发了DeepSeek模型私有部署的热潮。DeepSeek-V3模型与DeepSeek-R1模型的主要区别在于R1模型具备深度思考（reasoning）的能力，回答准确度的表现更优。DeepSeek-V3和DeepSeek-R1拥有共同的训练起点——DeepSeek-V3-Base，DeepSeek-V3系列之间的关系如图2所示。