Re: [問題] tensorflow- 訓練在gpu 預測在cpu

作者: snakei14702 (sun)   2022-09-25 03:11:37
※ 引述《snakei14702 (阿中是我們的神)》之銘言:
: 最近在玩強化訓練的時候遇到一點小問題就是
: 因為模型的深度很深需要GPU來跑
: 但是在run env 計算(中間有用到model.predict)一些東西的時候
: 如果用GPU跑就顯得太慢沒效率...
: 所以想要請教一下各位有沒有辦法在fit model時用GPU
: 然後用model.prict的時候用cpu呢?
: 簡化的代碼如下:
: for i in range(1000):
: model.fit(x,y)
: model.predict(x)
: 基本上我有用過
: for i in range(1000):
: os.environ["CUDA_VISIBLE_DEVICES"]="0"
: model.fit(x,y)
: os.environ["CUDA_VISIBLE_DEVICES"]="-1"
: model.predict(x)
: and
: for i in range(1000):
: with tf.device('/GPU:0'):
: model.fit(x,y)
: with tf.device('/CPU:0'):
: model.predict(x)
: 這兩個方法都沒效= =
: 有點難過
: 不知道版上強者沒有研究過,可以指導一下小弟
: 非常感謝!!
謝謝各位強者的幫忙
後來研究一下
用@tf.fuction修飾
然後用model(x)取代model.predict(x)
就可以跑的爆炸快了!!!
以前覺得@tf.fuction好像也沒多厲害
不過在RL玩遊戲的時候整個讓我很驚艷!
再次感謝各位的幫忙!
作者: ToastBen (吐司邊)   2022-09-26 09:29:00

Links booklink

Contact Us: admin [ a t ] ucptt.com