DeepSeek V4推理性能分析:NV华为最优 AMD实现100x提升

更新时间: 浏览次数: 258

穿越时空之绝色宠妃快科技6月10日消息,作为开源AI大模型的中坚力量,DeepSeek V4的问世不只是多了一个大模型,而是各大AI生态圈的一次考验,谁能率先支持DeepSeek V4谁家的生态就有更大优势。 SemiAnalysis日前发了一篇长文分析了V4的推理性能,对比了目前常见的AI生态圈,包括NVIDIA、华为、AMD及各自的CUDA、ROCm、CANN,以及第三方社区开源的各种方案。 综合下来,目前最强、最优的还是NVIDIA的CUDA平台vLLM及SGLang框架,V4发布当天就能Day0支持,哪怕是最新的硬件GB200/300也是开箱可用的水平。 华为的昇腾生态在这个问题上也不弱于CUDA,昇腾950DT+CANN框架也是发布当天Day0支持,硬件及软件上都可以做到全栈支持。 这两个生态是最优的,要知道以往不论国内外大模型,基本上只有NVIDIA的CUDA生态可以做到Day0全栈支持,显然V4在开发阶段就针对国产AI平台做了适配及优化,这一点也确实做到了。 AMD的硬件及ROCm生态指标都不错,但在V4的Day0支持上拉跨了,MI355X显卡刚开始只能跑FP8,性能很差,但AMD的SGLang团队追赶得极快,26天时间里就把性能提升了100x倍。 综合SemiAnalysis的分析来看,NVIDIA的CUDA生态圈肯定还是最稳的,Day0支持毫无悬念,而且还有最新的硬件加持,GB300的Token成本算下来还是很低的。 华为的昇腾+CANN生态也能做到NVIDIA那样的Day0支持,这方面也让人刮目相看,也是国产AI平台的一次重大进步,只不过跟NVIDIA相比,国产AI的算力被限制住了,硬件性能目前差距比较大。 AMD这边硬件及软件纸面上都很强,但生态还不够完善也是真的,只不过起点低的好处就是进步空间大,100x性能提升听上去也很带感,就是要看客户喜不喜欢这种风格了。 【本文结束】如需转载请务必注明出处:快科技 苹果汇为你带来最新鲜的苹果产品新闻 提供最新的科学家新闻,精彩的震撼图片 © 1996-2026 SINA Corporation。

新闻结尾穿越时空之绝色宠妃的相关文章
习近平会见墨西哥总统洛佩斯
“目无法纪,计划外生育子女”,杨艳晖被双开
【境内疫情观察】全国新增82例本土病例(2月24日)
香港社会各界踊跃捐款 支援甘肃青海地震灾区抗震救灾
全国人大外事委员会发言人就美国“2024财年国防授权法案”涉华消极条款发表谈话
那年今日 | 我国首次参加奥运会只有一名参赛选手
江苏:不误农时抓好秋粮收购
“最美的书”20年,展览回顾中国书籍设计走向世界的历程
长春航展精彩瞬间
2021年两会前瞻:历史交汇点上的中国信号
中国科学家用新技术提高盐碱地生产力
打疫苗送房子 香港地产商捐千万房产作抽奖
凤凰传奇赵露思 吉祥三宝
北野武:钱多、事少、离家近的工作能找到吗?
  • 友情链接: