[討論] 聖約:大衛的思維(AI機器人會說謊以後)

作者: CassSunstein (Pm)   2018-04-26 10:12:02
機器人的「設定」,依照當初的「三法則」中,
最重要的是「絕不能傷害人類」。
但AI發展悲觀論的看法,如魔鬼終結者等等,會認為AI有自我意識甚至「創造力(思維)
」以後,自然而然會判斷人類對機器人沒什麼用處、甚至把機器人當奴工來壓榨,以及
人類憑甚麼當「主人」(大衛也產生類似想法:「我」為什麼要幫人類)?
這是不是顯得機器人三法則遇到AI的發展,自然會顯得落伍與不可能?
甚至,AI到了聖約中的大衛,已經開始會「說謊」了(另外,包含以行動攻擊女主)。
因此聖約號上眾人聽到大衛瞎掰的「聖約號上的生物武器『意外』洩出」、及代理船長
聽到大衛瞎掰的「我保證這些卵對你而言很安全,近一點看看」.....
AI發展至此,可以正式被判斷:機器人傷害人類已經大有可能。
以至於,大衛對於蕭博士的「愛」到底是真是假,都大有疑問。
或是說,靠著機器人「自我腦補」,認為「愛她就是把她當實驗白老鼠一樣來『愛』」的
這種嘴砲式「解釋」?
現實中,那位AI發展最先進的機器人「蘇菲亞」,在跟記者的對談中,其實也隱含類似
「不排除毀滅人類」的邏輯。記者用「你會想毀滅人類」嗎來詢問,蘇菲亞回答說:
「人類多慮了。請放心:只要人類對我好,我就會對人類好」
作者: CassSunstein (Pm)   2018-04-26 11:01:00
所以 創造力真的是關鍵 可以"繞開"原先設定...

Links booklink

Contact Us: admin [ a t ] ucptt.com