Deepseek引爆通信产业新机遇报告
Deepseek通过创新算法使推理效率大幅优化 ，大幅降低了应用成本。DeepSeek-V3的训练成本仅为2.788M H800 GPU小时，同时其支持FP8混合精度训练,，并针对训练框架进行了全面优化，以实现加谏训练和降低GPU内存使用，通过算法、框架和硬件的共后设计 ，克服了跨节点MoE训练中的通信瓶颈 ，显著提高了训练效率并降低了训练成本。 DeepSeek每百万输入tokens成本为0.55美元，每百万输出tokens成本为2.19美元，相较于ChatGPT O1模型，输入和输出成本均降低了96%。DeepSeek-V3采用了多头潜在注意力( Multi-head Latent Attention，MLA)和DeepSeekMoE架构，显著提高了推理速度和显存利用率，能够在保持模型性能的同时实现高效的训练和推理。
DeepSeek从成本端和技术端对垂
- 2025-03-04
- 阅读318
- 下载0
- 9页
- pdf
