作者:
Lushen (wind joker!!!)
2025-01-25 17:49:15標題:
AMD Instinct GPUs Power DeepSeek-V3: Revolutionizing AI Development with SGLang
來源:
AMD's X (Twitter)
網址:https://x.com/AMD/status/1882851449991737473
內文:
Excited to share that AMD has integrated the new DeepSeek-V3 model on Instinct MI300X GPUs, designed for peak performance with SGLang. DeepSeek-V3 is optimized for AI inferencing. Special thanks to the DeepSeek and SGLang teams for their close collaboration!
很興奮與大家分享,AMD已將全新的DeepSeek-V3模型集成到Instinct MI300X GPU上,旨在與SGLang一起實現卓越的性能。DeepSeek-V3已針對AI推理進行優化。特別感謝DeepSeek和SGLang團隊的緊密合作!
https://i.imgur.com/xVyT4ds.png
-
這波 DeepSeek V3/R1 熱度 AMD 無情開蹭,官方推特(X) 24小時內發了兩篇關於 AMD 的 AI Group 團隊跟 DeepSeek 展開深度合作。
宣傳 AMD 的 GPU 可以高效的跑 DeepSeek 的最新模型
甚至還發推幫 DeepSeek 宣傳
https://i.imgur.com/xVyT4ds.png
嘴角完全壓不住
AMD 開發者中心也特別發文宣傳
https://i.imgur.com/0BcolBA.png
接下來如果商業公司想要接、提供 DeepSeek 模型去省 LLM model 成本,以計算成本考量 NVIDIA 就不一定是首選。
同樣的計算量跑 DeepSeek 模型可以節省 20-30 倍的成本
對正確性不是這麼敏感的場景來說用 DeepSeek 的成本誘因超級巨大