DeepSeek V4推理性能分析：NV华为最优 AMD实现100x提升

一本到高清在线观看视频快科技6月10日消息，作为开源AI大模型的中坚力量，DeepSeek V4的问世不只是多了一个大模型，而是各大AI生态圈的一次考验，谁能率先支持DeepSeek V4谁家的生态就有更大优势。 SemiAnalysis日前发了一篇长文分析了V4的推理性能，对比了目前常见的AI生态圈，包括NVIDIA、华为、AMD及各自的CUDA、ROCm、CANN，以及第三方社区开源的各种方案。 综合下来，目前最强、最优的还是NVIDIA的CUDA平台vLLM及SGLang框架，V4发布当天就能Day0支持，哪怕是最新的硬件GB200/300也是开箱可用的水平。 华为的昇腾生态在这个问题上也不弱于CUDA，昇腾950DT+CANN框架也是发布当天Day0支持，硬件及软件上都可以做到全栈支持。 这两个生态是最优的，要知道以往不论国内外大模型，基本上只有NVIDIA的CUDA生态可以做到Day0全栈支持，显然V4在开发阶段就针对国产AI平台做了适配及优化，这一点也确实做到了。 AMD的硬件及ROCm生态指标都不错，但在V4的Day0支持上拉跨了，MI355X显卡刚开始只能跑FP8，性能很差，但AMD的SGLang团队追赶得极快，26天时间里就把性能提升了100x倍。 综合SemiAnalysis的分析来看，NVIDIA的CUDA生态圈肯定还是最稳的，Day0支持毫无悬念，而且还有最新的硬件加持，GB300的Token成本算下来还是很低的。 华为的昇腾+CANN生态也能做到NVIDIA那样的Day0支持，这方面也让人刮目相看，也是国产AI平台的一次重大进步，只不过跟NVIDIA相比，国产AI的算力被限制住了，硬件性能目前差距比较大。 AMD这边硬件及软件纸面上都很强，但生态还不够完善也是真的，只不过起点低的好处就是进步空间大，100x性能提升听上去也很带感，就是要看客户喜不喜欢这种风格了。 【本文结束】如需转载请务必注明出处：快科技 苹果汇为你带来最新鲜的苹果产品新闻 提供最新的科学家新闻，精彩的震撼图片 © 1996-2026 SINA Corporation。

新闻结尾一本到高清在线观看视频的相关文章
视角、路径与可能：全球视野下的公共卫生与都市文明
【境内疫情观察】中国已累计接种疫苗5200多万剂次（3月3日）
殷勇跨年夜检查假期城市运行和公共安全保障工作
【境内疫情观察】河北新增1例本土病例（2月14日）
德州“粮策”
为“虎”添“翼”!湖南启动黑老虎太空种子育种实验
国家医保局就定点医药机构相关人员医保支付资格管理征求意见
2024年确定为中朝友好年
为养老服务筑牢法治之基
坚持“事实优先”保护劳动者权益
2020年核电发电量创新高
国宝画重点丨白露的“氛围感”被古人拿捏了
情侣接吻时，第几秒伸舌头比较好？
【2024年第一缕阳光】云雾缭绕美如仙境在黄山之颠迎接新年第一缕阳光

友情链接：