Re: [問卦] 資工系的最佳化和數學系的最佳化一樣嗎?

作者: abliou (愚者)   2015-03-19 03:25:02
※ 引述《DarkIllusion (′・ω・‵)》之銘言:
: ※ 引述《Zorich (卓里奇)》之銘言:
: : 各位好
: : 資工系有一門領域是最佳化,例如基因演算法、隨機搜尋演算法等等
: : 數學系也有最佳化理論,包括線性規劃、作業研究、凸分析,請問兩者是不同領域嗎?
: ㄤㄤ~
: 本肥宅以前專修資工裡比較像數學課的課程
: 跟本篇比較有關聯的包含類神經網路、最佳化、演化式計算
: 我在資工修過的最佳化包含你所說的數學系部分
: 加了一兩章類神經網路、全域搜尋(含基因演算法)跟多目標最佳化
: 沒作業研究,修課時老師說這個要去其他系學
: 又,某一堂課需要先修最佳化,會用到凸分析的東西
: 不太可能會以基因演算法為主要內容
: 所以若以此對你提供的資訊做修正
: 我猜資工所學的最佳化跟數學系相比,應該不會相差太大
: 至於推文所說的類神經網路有涵蓋到的
: 我學的類神經只用了一個章節說明梯度下降法、共軛梯度法、牛頓法
: 差不多是最佳化課程前一兩章講的東西,提到的不是很多
身為一個生科背景出身的肥宅 沒有修過資工系跟數學系的課也是很常見的
但在各行各業都有生科系的人存在 在下接觸一點電腦跟建模也是很常見的
既然非專業 自然無意分高下 所以請理性 勿戰!!
身為肥宅 發發沒人想看的費雯 騙騙P幣更是正常...本篇只期望可以拋磚引玉
其實問題答案很簡單: '你要解的問題,是否可以用"函數"來表示'
另外討論串看下來 發現推文跟回文出現一些常見的誤解
就是把"最佳化"跟"機械學習"搞混 下面一併提供不專業回答
首先 是"最佳化"的問題 到底資工跟數學在解問題差別在哪?
先以"數學家"的角度面對要解的問題 數學家首先會提出"一堆假設" 也就是"理想狀態"
然後再把問題做出一個函數來描述 最後用數值方法來找出該函數的解
這些數值方法就是原po提問時 在"數學系"看到的課程 包括牛頓法等等的解法
這些解法解出來的結果會是"唯一的" 不會有變動
隨著現實的問題越來越複雜 數據累積也越來越快的情況下 大家發現
用數值函數做出來的模型大部分的情況都無法使用 也就是碰到很多無法函數化的問題
但有個利基就是電腦的運算速度越來越快 於是有些數學家開始使用電腦計算問題的解
但是"正解"要如何取得? 唯一的方法就是使用"暴力窮舉法" 將所有的解都算過一遍
並從中挑出正解 只是很多問題用暴力法窮盡人的一生也解不完 (例如"恩尼格瑪"的排列)
於是開始了電腦使用"演化式計算"來處理這些
演化式計算的構想通常來自於生物界
例如基因演算法 免疫演算法 蟻群演算法 粒子群演算法等等
在這些演算法中 "亂數"扮演很重要的角色 這也說明一件事
就是些解法不會提供"唯一解" (除非你運氣真的很好 或是問題很小 直接收斂在正解)
那這兩種方法優缺點在哪?
數學的解法速度快 但是大多數時間不太準 因為函數在建立的時候
那些"假設"限定了該函數可以描述的現象
資工的解法速度慢 但是可以應付大多數的狀態 因為它不需要太多的假設
說到這邊 其實上面的解法跟"統計"沒有太大的關連 統計只是解題描述題目的手段
至於有人推文提到的"類神經網路" 其實不是"最佳化"的範疇 而是機械學習法的範疇
機械學習法除了類神經之外 還有支援向量機 Fuzzy ANFIS等等
這部分就相較於"最佳化"會跟統計比較扯得上關係
有些類神經會使用所謂的"數學系"解法做評估 當然也可以用"資工系"解法做評估
因為"機械學習在建立模型時,需要使用最佳化" 也就是說
"機械學習"跟"最佳化"是兩個不同的學問 可以任意搭配
例如 "類神經用牛頓法計算隱藏層比重" 或是 "類神經用基因演算法來計算隱藏層比重"
補個八卦
分不清楚最佳化跟機械學習也沒關係 因為也有教授用類神經網路發了好幾篇文章
最後還問"那你告訴我基因演算法跟類神經誰比較厲害"
好 結論!!
所以如果要學最佳化 數學資工都可以 解的方法跟角度不同而已
作者: junki8957 (王子)   2015-03-19 03:26:00
快推
作者: GUNDAMGOGOGO (B!kada )   2015-03-19 03:29:00
觀點不錯
作者: Zorich (卓里奇)   2015-03-19 03:56:00
所以大大這些都是自學的嗎?@@
作者: DarkIllusion (′・ω・‵)   2015-03-19 04:08:00
我想挑出幾個觀念錯誤 不過我累了 改天吧 晚安
作者: abliou (愚者)   2015-03-19 04:10:00
那就請您務必指教了

Links booklink

Contact Us: admin [ a t ] ucptt.com