DeepSeek V4推理性能分析:NV华为最优 AMD实现100x提升

更新时间: 浏览次数: 258

强c亲女的文h快科技6月10日消息,作为开源AI大模型的中坚力量,DeepSeek V4的问世不只是多了一个大模型,而是各大AI生态圈的一次考验,谁能率先支持DeepSeek V4谁家的生态就有更大优势。 SemiAnalysis日前发了一篇长文分析了V4的推理性能,对比了目前常见的AI生态圈,包括NVIDIA、华为、AMD及各自的CUDA、ROCm、CANN,以及第三方社区开源的各种方案。 综合下来,目前最强、最优的还是NVIDIA的CUDA平台vLLM及SGLang框架,V4发布当天就能Day0支持,哪怕是最新的硬件GB200/300也是开箱可用的水平。 华为的昇腾生态在这个问题上也不弱于CUDA,昇腾950DT+CANN框架也是发布当天Day0支持,硬件及软件上都可以做到全栈支持。 这两个生态是最优的,要知道以往不论国内外大模型,基本上只有NVIDIA的CUDA生态可以做到Day0全栈支持,显然V4在开发阶段就针对国产AI平台做了适配及优化,这一点也确实做到了。 AMD的硬件及ROCm生态指标都不错,但在V4的Day0支持上拉跨了,MI355X显卡刚开始只能跑FP8,性能很差,但AMD的SGLang团队追赶得极快,26天时间里就把性能提升了100x倍。 综合SemiAnalysis的分析来看,NVIDIA的CUDA生态圈肯定还是最稳的,Day0支持毫无悬念,而且还有最新的硬件加持,GB300的Token成本算下来还是很低的。 华为的昇腾+CANN生态也能做到NVIDIA那样的Day0支持,这方面也让人刮目相看,也是国产AI平台的一次重大进步,只不过跟NVIDIA相比,国产AI的算力被限制住了,硬件性能目前差距比较大。 AMD这边硬件及软件纸面上都很强,但生态还不够完善也是真的,只不过起点低的好处就是进步空间大,100x性能提升听上去也很带感,就是要看客户喜不喜欢这种风格了。 【本文结束】如需转载请务必注明出处:快科技 苹果汇为你带来最新鲜的苹果产品新闻 提供最新的科学家新闻,精彩的震撼图片 © 1996-2026 SINA Corporation。

新闻结尾强c亲女的文h的相关文章
水下考古探向深海
2024年成都跨年活动汇总大全(最新)
哈尔滨市平房区直机关工委“三式”工作法做实做活主题党日
广西玉林:受灾地区生产生活秩序加快恢复
中俄两国元首互致新年贺电
“跨境上班族”:中越边境上的“双城”故事
极端环境中的数据守护者,威刚工控为电力系...
森木家具:为传统古典家具产业开辟现代化生产之路
新西兰暂停西澳“旅行气泡” 欧盟再购18亿剂辉瑞疫苗|大流行手记(4月24日)
超越詹姆斯!24岁301天东契奇达成1万分:现役最快+历史第六年轻
「人民日报」国务院重要通知,利好你的个税
What's news
力纳克推杆×创新住宅天窗门,助客户获GOOD ...
把咱们“整不会了”!黑龙江致信感谢游客!省委副书记:把握机遇!人人人人人,直击多地跨年夜
  • 友情链接: