[問題] CUDA Stream, Hyper-Q方法

作者: v00623 (阿哩他命EX PLUS)   2017-06-20 15:07:56
開發平台(Platform): (Ex: Win10, Linux, ...)
Linux GPGPU-Sim
CUDA
問題(Question):
最近在練習stream時看到一個Hyper-Q的東西
官方文件說這個可以讓不同stream中的kernel達到真正的concurrent execution
而這功能是在kepler架構之後才有的
我的問題是在fermi架構下
使用stream的語法不也可以同時把多個kernel放到GPU跑嗎
請問我的理解有錯嗎? 還請各位前輩指導
作者: hn12404988 (Willy)   2017-06-20 16:27:00
我之前也思考過類似的問題,我在猜他所指的真正併發是指(一次同時觸發」的意思,因為很多時候的併發是是接二連三出去平行執行,並不是真正的同時觸發
作者: jun0325 (俊)   2017-06-20 19:58:00
stream是一個software queue的概念 如果你把兩個kernel bound在同一個stream 那就會sequential執行 如果在不同stream就會用spatial的方式來將兩個kernel 綁到SM上建議直接爬gpu-sim怎麼運作的會更清楚
作者: hn12404988 (Willy)   2017-06-20 20:42:00
你可能沒抓到我的意思,執行時期當然是同時執行我剛指的是(發射時期),一般人是不需要去要求到(同時發射),只需要接二連三發射就可以,差別很小我在猜他所指的(real)是這個意思吧我也有在看官方文件,我有印象看到這段

Links booklink

Contact Us: admin [ a t ] ucptt.com