Re: [閒聊] 欸不是,買個顯卡還要買驅動= =

作者: aa210682 (吃臉哥哥)   2023-04-10 12:07:26
看到版上在討論vGPU
身為vGPU相關的工程師應該是有資格來討論(?
先來談談虛擬化這件事情
虛擬化就是透過hypervisor(如VMware,kvm)之類的平台
在單一主機的環境上面,虛擬出多個作業系統
單機版就如vmware workstation,或是各類模擬器也算是(bluestack)
了解玩虛擬化之後就可以往下討論
如何讓虛擬化之後的作業系統(guest os)拿到GPU
市面上有各種千奇百怪的方式,所以以下只探討N家有認證的方式
1.Passthrought/直通道/Diretch Path I/O
這三種名稱的意思都差不多
將整張GPU卡片直接分配給guest OS,這種方式嚴格說不是虛擬化
畢竟沒有虛擬化GPU的成分,將整張卡片丟給虛擬機,何來虛擬化GPU之稱
透過這種方式驅動程式是使用一般家用的驅動程式,所以可以直接使用
2.vGPU
看到前一種方式,有一個很大的限制,就是單一虛擬機單一卡片
這種方式以企業等級的方式來看是非常浪費資源的
Datacenter系列卡片通常都16GB up,並且效能也非常強大
單一虛擬機很難用光其效能
所以vGPU就是將GPU利用虛擬的方式,分給多台虛擬機
讓每一台虛擬機都可以有固定份額的GPU
切分方式就是透過GB的方式切分(xGB)
當然這種功能是面相企業的,所以當然會有收費的問題
所以N家就簡單粗暴地綁定驅動程式
要購買才能下載特定的驅動,並且驅動程式也會需要輸入授權
提完以上可以額外來講一下vGPU各種授權種類
其中有分成4+1種
vWs拿來做圖像運算(這種功能可以讓vGPU開啟圖像渲染、directx 相關功能)
vApp 利用做RDSH
vPC 跟vWs類似,但是關掉圖像進階功能,純顯示
vCs 純計算,拿來做計算相關
當然,費用不相同XDD
順便來討論一下看到文章內提到的有趣問題
1.NVIDIA早期有datacenter系列的卡片(k1/k2/m10)
這種卡片的驅動程式只能使用vGPU的驅動程式
簡單說,就算改成直通道模式,依然只能只用vGPU的驅動
沒辦法使用一般的驅動
印象中在V系列(對照20系列)之後再見過這種模式
P4印象中也是?
2.T4,A2,L4
印象中這幾張的效能差不多(明明不同世代,效能也可做得差不多
就我收到的消息時A2的產線大暴死,所以才T4繼續頂
應該不是市場接受度的問題,A2定價便宜很多呢XD
3.A100,MIG
MIG這項技術是否可以完全脫離vGPU呢
是,但也不是
MIG是驅動程式自帶的操作指令,可以切分成多張GPU
在監控介面下就是看到多張卡片
然後可以進行分配使用
但是前面提到,要在驅動程式的介面下操作
所以必須還是得使用前面提到的方式(直通道orvGPU)
1.直通道給虛擬機之後,再從虛擬機端操作
2.或是直接在hypervisor層進行MIG操作之後,再將切分出來的GPU打出來分配給虛擬機
第二種方式依然還是要購買授權呢
所以是但也不是
4.
這邊可以提到N家一個非常複雜的新授權NVIDIA AI Enterprise
嚴格來說它就是vcs+軟體服務的授權
他有著完全不同的驅動以及授權
但是使用方式還是跟vcs一樣
這刀法是真的強
以上,想到甚麼再補充
※ 引述《wei115 (社畜)》之銘言:
: 是這樣的
: 最近看對岸有批好便宜的tesla p4
: 一張大概只要NT 2000
: 性能大概有1070-10%等級 功耗不到75w 長期在資料中心吹冷氣
: 而且還支援vGPU
: 想說買來裝在我的proxmox主機上 玩我心心念念的顯卡虛擬化
: 可是查了一些資料發現
: 虛擬化確實很簡單,但裝進去後 每個虛擬機還要授權
: 如果沒有授權 20分鐘就限制性能 只能跑15fps
: 阿我都買硬體惹 現在連裝個驅動都要收錢喔= =
: https://i.imgur.com/HIy4YHd.jpeg
:
作者: ccbbaa   2023-04-10 12:17:00
感覺是給nvidia now用的@@
作者: arenoe (小鍋)   2023-04-10 12:56:00
有點看懂了
作者: jaspergod (神遊)   2023-04-10 13:19:00
所以顯卡掛給虛擬機後,再從虛擬機切分給不同的程式跑(MIG),應該是可行的吧XD 也不會用到vGPU授權?
作者: wardraw   2023-04-10 13:19:00
推科普 稍微懂了
作者: AKSN74 (AKS-74n)   2023-04-10 13:23:00
推,MIG記得也吃硬體架構,所以只有特定卡才能用然後MIG的初衷是為了給容器,給VM用反倒是其次
作者: cmshow (cmshow1005)   2023-04-10 14:13:00
推,看ptt漲姿勢
作者: coffeedemon (coffeedemon)   2023-04-10 15:15:00
T4跟A2效能差不多 不過A2省了一點功耗?
作者: pcfox (京極元狐)   2023-04-10 15:49:00
好文分享堆一個
作者: AI007 (鄧林)   2023-04-10 17:09:00
先收藏,晚點研究看看
作者: dmeiki (熊麻吉)   2023-04-10 17:11:00
作者: jychu1132 (廚餘)   2023-04-10 18:47:00
A2很爛欸,除了VRAM大小根本是亮機卡等級,只有極少應用能贏T4然後L4以他75W的效能來說其實算很強A2真實性能大概只有T4的1/3
作者: imhanhan (隨遇而安)   2023-04-10 19:12:00
推推
作者: MACROSS2K (MACROSS2K)   2023-04-10 19:18:00
感謝分享
作者: wahaha99 (此方不可長)   2023-04-10 19:31:00
方法1 現在Workstation能用了?一般遊戲卡也行嗎?
作者: Lomonosov (羅蒙諾索夫院士)   2023-04-10 19:35:00
作者: BlackCoal (居士隱埋偏仕)   2023-04-10 21:06:00
推推

Links booklink

Contact Us: admin [ a t ] ucptt.com