[問題] 神經網路的分類問題

作者: breezy1812 (茉莉花)   2017-10-18 10:46:29
各位神人版友安安
最近剛接觸NN演算法
用來解決物質特性分類的問題
只是目前我的分類輸出層是這樣
我假設純物質有三類,所以輸出層的維度是3
第一類(1,0 0)
第二類(0,1,0)
第三類(0,0,1)
那現在我遇到一個比較麻煩的邏輯問題
希望版友如果有經驗,或是有些想法可以提出建議
如果其中兩類混在一起成為混和物
在不發生化學反應的前提下
如果希望針對此混和物進行學習
我應該將輸出層定義為(1,1,0)還是(0.5 , 0.5 , 0)
這兩者各有幾個特點
一、(1,1,0)
我只考慮到是否有出現特定的純物質,
以不考慮濃度比例下,或許是個安全的作法。
但因為我在學習前或做一些前處理(包括歸一化)
所以會不會影響到其他類別的學習?
二、(0.5 ,0.5, 0)
這邊就考慮到歸一化的結果,
如果是三種混和物理當然選擇(0.33, 0.33, 0.33)
聽起來也合理許多,但是否也可能影響到純物質本身的學習
(比如說,最後純物質的單項預測值會坐落在1和0.5之間,或更小)
以上是最近我一直在思考的
因為我對NN的處理邏輯還不是很有感覺
還有一個問題是,我的混和物樣本不是我調的
所以濃度基本上是未知,
但我的近程目標還是先訂在定性分析,
還希望各位大大能提供一些意見
感謝
作者: bibo9901 (function(){})()   2017-10-18 11:01:00
取決於你loss function怎麼定義
作者: breezy1812 (茉莉花)   2017-10-18 11:25:00
我之前是用softmax,是不是使用softmax就不適用1,1,0的方案?
作者: bibo9901 (function(){})()   2017-10-18 11:33:00
我是指 loss function, 不是最後一層..
作者: breezy1812 (茉莉花)   2017-10-18 12:06:00
抱歉 這部分我還是有點混淆,loss function是在計算輸出誤差的時候帶入嗎? 還是要跟著優化器的方法?目前我的寫法是直接在輸出層做相減,目前看到其他方法也只寫到這邊而已。參考範例https://goo.gl/tGJa6KOK 我剛惡補玩了 我會再研究其他函式看看! 感謝
作者: vfgce (小兵)   2017-11-04 21:06:00
基本上你是做分類還是迴歸?分類只有0與1,迴歸才考慮0.5...若你產生的混合物兼具兩者特性,那麼編碼是[1,1,0]..
作者: breezy1812 (茉莉花)   2017-11-07 10:01:00
了解 我會在試看看 感謝大大!

Links booklink

Contact Us: admin [ a t ] ucptt.com