: ※ 引述《holiybo (米羅)》之銘言：
: : 馬斯克看到CHATGPT後覺得恐懼
: : 但一般人哪會感到害怕
: : 甚至覺得新奇發展愈快愈好
: : 假設AI就這樣無阻礙發展下去
: : 發展到什麼程度你才會覺得恐怖?
: : 開始自動上PTT發廢文?
: : 0.0?
阿肥外商碼農阿肥啦！在下鍵盤研究員，基本上現在所有的模型本質上都還是弱人工智慧
的，只是這兩三年研究累積的體現。
當前還有很多問題是需要解決的，像是雖然偏好模型，但LLM還是對於學習並非是有偏的
，這邊的偏好依舊需要人工大量去微調，這就跟我們人類差異很大。
人類至少你在求學的時候，老師或爸媽不會是看到你做錯事情就打一次校正你，更多是教
你規則跟你之前累積的經驗就可以快速學習，不過現在的LLM還是需要人工大量做Instruc
tion Tuning(引導校正)才對某些領域有效果，這也導致所有的模型疊代勢必要offline
的訓練才能保證不會學偏。
另一個問題就是人類其實有學習的輕重緩急之分，而且這是在我們從小的人格養成就固化
的，所以我們心中都會有一個世界模型，明白事物的意義跟賦予其主觀意義，而且當世界
有意義時，人類就不太會跳脫世界模型思考學習，不過LLM看起來即使他學過大量語料知
道邏輯，但是世界模型依舊不完整，這也是一個待研究的議題，是否是數據不足才導致還
是參數不夠，這還是一個Big Question。更何況人類會整合自己的目的動機與世界模型進
行針對性的學習強化，當前LLM對於學習依舊缺少目的性。
再來就是雖然很多研究表明大語言模型作為基石模型對於災難性遺忘有一定的抵抗能力(
災難性遺忘即是模型隨著不斷持續喂給他新的數據而且不讓他回顧，模型會隨著輸入慢慢
偏移導致原本的任務效能下降)，但是依舊還是存在，而人類通常熟練一個任務後通常會
過目不忘，甚至只要稍微看一下就馬上複習完成了，像阿肥三年沒開車一開還是馬上上手
一樣。
最後就是電力消耗跟建構LLM的推論成本依舊還是過高，以ChatGPT為例光是推論已經把參
數都固定的狀態下還是每天要燒70萬美金，電力、GPU的使用量依舊是很嚇人的，反觀我
們現在研究蒼蠅大腦其實蒼蠅大腦的耗能極低但在圖像識別或是語言溝通上卻是表現很不
錯的，而且人類大腦其實也有省電模式可以幫助我們減少耗能，但現在的LLM是全線運作
的，所以減少LLM的大小與消耗電力成本還是一個問題。
這邊就舉那麼多是當前研究待克服的，倒也不是說完全無解，只是更通用的解法仍需要我
輩努力。
最後，我還是不太認為AI是完全取代人類的，這有點末世理論的感覺沒什麼依據，未來大
概五十年內技術會逐漸落地普及，更多的是解放人類雙手，未來人機對話協作會越來越普
遍，由人類為指導者來引導任務進行不代表勞工會被取代，勞工未來更多是轉向類似機器
人教練的工作，必須要有更專業的知識才能引導機器往你要的方向發展，加速人類文明的
累積。至於五十年後真的強人工智慧出現，那也是至少五十年後的事情了。
差不多4醬