[菜單] 25萬 深度學習機

作者: Laximi (食慾蔓延)   2024-04-22 23:40:00
已買/未買/已付訂金(元):未買
預算/用途:約25萬。Deep Learning & LLM專用,兼大量數據預處理,長時間運作
CPU (中央處理器):Intel i9-14900K【24核/32緒】3.2G(↑6.0G) $19999
MB (主機板):華碩 ROG MAXIMUS Z790 DARK HERO $20990
RAM (記憶體):4 x 金士頓 32GB DDR5-5600/CL36 FURY Beast 黑 $6200
VGA (顯示卡):2 x 華碩 ROG-STRIX-RTX4090-O24G-GAMING $65990
Cooler (散熱器):DEEPCOOL ASSASSIN IV 阿薩辛4 導管/雙塔反葉扇/高16.4 $3290
SSD (固態硬碟):金士頓 KC3000 2TB/Gen4 PCIe 4.0/讀:7000/寫:7000/TLC $4750
HDD (硬碟):Seagate 16TB【EXOS企業碟】256MB/7200轉/五年保 $12800
PSU (電源供應器):海韻 PRIME PX-1600 ATX3.0(1600W) 雙8/白金/全模組 $16490
CHASSIS (機殼):聯力 O11 Dynamic EVO XL 黑 顯卡長46/CPU高16.7 $7200
9 x Fractal Design Aspect RGB 14cm/1700RPM $790
1 x Fractal Design Aspect RGB 12cm/2000RPM $790
總價 (未稅/含稅):236,309 含稅
雙顯卡共48GB,允許使用更大的LLM,例如Llama-2 70B(要用某些lib拆分模型)。
此機殼允許一張吊掛,一張水平,提高散熱效率。
不用A6000純粹是因為目前預算不足,但未來仍可能會改A6000之類的。
不用水冷,不想承擔爆管風險。若過熱,就透過軟體抑制運算量。
電源1600W應該足夠,屆時也可能會主動限制GPU耗電量,也順便抑制溫度延長壽命。
有任何建議嗎?

Links booklink

Contact Us: admin [ a t ] ucptt.com