新型智算中心改造系列报告一:网络成大模型训练瓶颈,节点内外多方案并存

AI大模型训练和推理拉动智能算力需求快速增长。a)模型迭代和数量增长拉动AI算力需求增长:从单个模型来看,模型能力持续提升依赖于更 大的训练数据量和模型参数量,对应更高的算力需求;从模型的数量来看,模型种类多样化(文生图、文生视频)和各厂商自主模型的研发,均 推动算力需求的增长。b)未来AI应用爆发,推理侧算力需求快速增长:各厂商基于AI大模型开发各类AI应用,随着AI应用用户数量爆发,对应推 理侧算力需求快速增长。

  • 2025-08-18
  • 收藏0
  • 阅读120
  • 下载0
  • 24页
  • pdf
  • 2.87M

评价

评分 :
   *