DeepSeek-V3 achieves a significant breakthrough in inference speed over previous models. It tops the leaderboard among open-source models and rivals the most advanced closed-source models globally.

Download DeepSeek V3 Models. Choose between the base and chat-tuned versions of DeepSeek V3

We present DeepSeek-V3, a strong Mixture-of-Experts (MoE) language model with 671B total parameters with 37B activated for each token. To achieve efficient inference and cost-effective training, DeepSeek-V3 adopts Multi-head Latent Attention (MLA) and DeepSeekMoE architectures, which were thoroughly validated in DeepSeek-V2.

DeepSeek v3 经过 14.8 万亿个不同代币的训练，并结合了多代币预测等先进技术，为 AI 语言建模树立了新标准。 该模型支持 128K 上下文窗口，提供与领先的闭源模型相当的性能，同时保持高效的推理能力。

2024年7月25日 · DeepSeek-V3 采用 FP8 训练，并开源了原生 FP8 权重。 得益于开源社区的支持， SGLang 和 LMDeploy 第一时间支持了 V3 模型的原生 FP8 推理，同时 TensorRT-LLM 和 MindIE 则实现了 BF16 推理。

Experience DeepSeek V3, a state-of-the-art large language model with 671B parameters, offering enhanced reasoning, extended context length, and optimized performance for both general and dialogue tasks.

2024年12月27日 · Abstract: We present DeepSeek-V3, a strong Mixture-of-Experts (MoE) language model with 671B total parameters with 37B activated for each token. To achieve efficient inference and cost-effective training, DeepSeek-V3 adopts Multi-head Latent Attention (MLA) and DeepSeekMoE architectures, which were thoroughly validated in DeepSeek-V2.

DeepSeek-V3是深度求索于2024年12月16日发布的人工智能 大型语言模型，专门适用于数学、编码和中文等任务，性能对标GPT-4o等竞争产品 [1] 。DeepSeek-V3在所有模型中排名第七，在开源模型排第一。

12月26日，Deepseek发布了全新系列模型DeepSeek-v3，一夜之间霸榜开源模型，并在性能上和世界顶尖的闭源模型GPT-4o以及 Claude-3.5-Sonnet相提并论。 该模型为MOE架构，大大降低了训练成本，据说训练成本仅600万美…

2025年1月7日 · 该研究提出了一种创新的知识蒸馏方法，将思维链 (CoT) 模型（特别是 DeepSeek R1 系列）的推理能力转移到标准 LLM 中，尤其是 DeepSeek-V3。这一方法成功地将 R1 的验证和反思机制整合到 DeepSeek-V3 中，显著提升了其推理能力，同时有效控制了输出的风格和长度。