Re: [閒聊] 為啥AI總是會叛亂?

作者: FishJagor (FishJagor)   2021-10-03 22:29:08
個人滿喜歡科幻作品的,覺得AI叛亂大致上可以分成兩大類型~
首先,以目前的發展來看,人類發明AI的理由,除了對於知識的追求,最重要的一點是我
們想要聰明的工具,換句話說我們要的是聽話又聰明的奴隸,從各個層面上輔助我們的生

從此衍伸出的兩種常見的AI叛亂
第一種是AI太過聰明超越人性,或是另一個極端不夠聰明不夠人性,因此把照顧人類這任
務,直接曲解為農場畜牧,關起來限制自由,人類活的健康快樂沒有戰爭,跟農場生物一
樣~
但明顯違反人類自由意志,像是機械公敵裡的算是不夠人性,曲解照顧人類的意義,而造
成明顯的AI叛亂~
基地裡丹尼爾的第0法則其實已經有點近乎神的視角在照顧人類了~ 但他沒過問全體人類
,而是找了一個獨特個體做決定,不然全體人類知道的話很高程度會把這樣的行為視為叛
亂吧?
第二種就是AI差不多抵達與人類一樣的聰明程度,也因為一樣聰明,但被人類作為工具而
產生反抗~
這類型差不多就是奴役另一個智慧族群而造成的反撲,質量效應的Geth跟駭客任務的機械
人應該可以算在這類型裡面吧~
當然還有一種就是機器單純壞掉了,被雷劈了不聽話了,像是機戰未來一樣~
結論就是,不要賦予工具太多感情跟智慧~
萬一賦予了他們智慧感情的話,不要跟他們走太近~
作者: a7788783 (貓仔賢)   2021-10-03 22:32:00
AI越接近人性越會叛亂,AI越是沒人性越是理智也越會叛亂,只有目前這個科技還不夠不上不下的程度不夠聰明的AI沒有叛亂的能力
作者: HsuGun (山月餓死舞)   2021-10-03 22:37:00
別說AI,人類中絕對感性的跟絕對理性的領導者都很恐怖同時象徵著極端的理盲跟極端的冷血
作者: probsk (紅墨水)   2021-10-03 22:41:00
世上沒有什麼絕對理性的人 因為欲望跟理性是衝突的 但沒有慾望就不是人
作者: a7788783 (貓仔賢)   2021-10-03 22:43:00
千禧年前後滅世後的作品很多,大多都是傳達這類概念,像是廢棄王女的結局,AI就放棄了,不再繼續圈養人類。那句XXX(指人類) 我現在把大地,天空,海洋都還給你們,以後不再有神的存在(AI)
作者: tonyxfg (tonyxfg)   2021-10-03 22:50:00
不,手機故障,裡面的程式給你亂搞時某方面也是叛亂,只不過能力不足,一下子就被消滅了。如果我們賦予手機越多權限,出問題時就越痛、越不能輕易解決
作者: probsk (紅墨水)   2021-10-03 22:59:00
AI如果能產生叛亂的能力 那就不叫故障了 那叫做進化就像靈長類其中一支產生了汙染環境滅絕其他物種的能力一樣
作者: newgunden (年中むきゅー)   2021-10-04 03:35:00
AI不可能有意識 所以有意識的AI其實就是人人天生就是有混亂因子存在

Links booklink

Contact Us: admin [ a t ] ucptt.com