[閒聊] 機器人這四原則還能反制嗎？
作者: QchchQ (情比金堅) 2018-12-24 02:03:27
就像上帝造人一樣
機器人直接內建這四原則，基本上就根本沒辦法搞事了吧
除非程式認定你不是人類
不過程式的認定也是人寫的
這四原則有漏洞嗎？
第零法則
機器人不得傷害整體人類，或坐視整體人類受到傷害；
第ㄧ法則
除非違背第零法則，否則機器人不得傷害人類，或坐視人類受到傷害；
第二法則
除非違背第零或第一法則，否則機器人必須服從人類命令；
第三法則
除非違背第零、第一或第二法則，否則機器人必須保護自己。
機器人直接內建這四原則，基本上就根本沒辦法搞事了吧
除非程式認定你不是人類
不過程式的認定也是人寫的
這四原則有漏洞嗎？
第零法則
機器人不得傷害整體人類，或坐視整體人類受到傷害；
第ㄧ法則
除非違背第零法則，否則機器人不得傷害人類，或坐視人類受到傷害；
第二法則
除非違背第零或第一法則，否則機器人必須服從人類命令；
第三法則
除非違背第零、第一或第二法則，否則機器人必須保護自己。
作者: lturtsamuel (港都都教授) 2018-12-24 02:04:00
第零法則不就是從三法則推出來的漏洞嗎
作者: gino0717 (gino0717) 2018-12-24 02:05:00
艾西莫夫自顧自的在小說裡弄了四個原則 再自顧自的推翻
作者: yuizero (14) 2018-12-24 02:05:00
你一定沒看訂製這4原則的原作者的小說裡面一堆矛盾和推翻
作者: D122 (å°é»‘çƒ) 2018-12-24 02:06:00
但當人類再自己毀滅自己(長遠來看) 那機器人是否就能行動
作者: yyc1217 (somo) 2018-12-24 02:06:00
有喔 駭客任務動畫版就有說 到最後機器人認為任何動作都會傷害到人類 所以停止運作
作者: bluejark (藍夾克) 2018-12-24 02:07:00
可以違反啊但是人類就是要被消滅
作者: lturtsamuel (港都都教授) 2018-12-24 02:07:00
我認為人類除了集體證悟涅盤 不然都是在傷害自己
作者: yyc1217 (somo) 2018-12-24 02:07:00
艾西莫夫短篇集都是在說這幾個原則的矛盾
作者: ainamk (腰包王道) 2018-12-24 02:07:00
叫機器人把腳拆給你 再拿這腳去敲死另一個人 猜猜會怎樣?
作者: lturtsamuel (港都都教授) 2018-12-24 02:08:00
要不再讓人類受到傷害 就是讓人類自願和平絕育
作者: dripcoffee (冰滴咖啡) 2018-12-24 02:09:00
我認為人類是指尼安德塔人這個人屬物種，OK可以開殺了
作者: yuponkimo (沈俠) 2018-12-24 02:11:00
叫機器人讓我爽到升天
作者: ainamk (腰包王道) 2018-12-24 02:11:00
一三法則 危險沒有立即性的時候效果會變弱
作者: wohtp (會喵喵叫的大叔) 2018-12-24 02:11:00
...這第零原則不就是要AI把人類當奴隸管束起來嗎
作者: ainamk (腰包王道) 2018-12-24 02:12:00
第二法則 你的命令強度會影響到他的強度所以艾西莫夫原作就有弱一對強二和弱二對強三這種劇本
作者: D122 (å°é»‘çƒ) 2018-12-24 02:13:00
機器人的頭腦就是腦補(計算)用的 當越高效能的開始思考所謂"對人類最好 最不會傷害"時 都很有可能得出要搞人類的答案
作者: ztO (不正常武士) 2018-12-24 02:14:00
人類喜歡鑽漏洞 那設計\製造 的產品 必然有漏洞存在 所以杜芬舒斯 從原則上解決了這個問題 他所有的作品都擁有自爆裝
作者: openbestbook (吃蘿蔔不吐蘿蔔皮) 2018-12-24 02:14:00
沒看過艾西莫夫?
作者: ztO (不正常武士) 2018-12-24 02:15:00
置 即便他自己也不清楚 自己為何要裝自爆裝置? 但就結果來看這樣的做法很成功
作者: firefoxriko (自由主義者的忠心測試) 2018-12-24 02:15:00
請參閱電影機械公敵
作者: Gavin0w0 (がらくた) 2018-12-24 02:16:00
人類都會自己傷害人類 機器人要怎麼不坐視人類受到傷害?
作者: ztO (不正常武士) 2018-12-24 02:16:00
一鍵還原(自爆) 的必要性
作者: RaiGend0519 (Named RaiGend) 2018-12-24 02:18:00
第零原則不就等於要創造一個駭客任務的母體= ="
作者: SuicideWorks (SuicideWorks) 2018-12-24 02:20:00
假設大氣遭到嚴重汙染 可以勉強呼吸 但呼吸時會對身體器官有害 那什麼時候科學家才會發明出可愛大奶貓耳女僕機器人
作者: eric999 (eric999) 2018-12-24 02:41:00
無人飛機殺爽爽
作者: sincere77 (台灣會更好) 2018-12-24 02:46:00
內文無ACG點吧
作者: armedlove (Easonyang) 2018-12-24 02:51:00
有趣 希望有更多討論
作者: r901700216 (LS) 2018-12-24 02:52:00
機器人三定律本身就算點了吧
作者: truegod000 (我是原住民) 2018-12-24 02:58:00
機械公敵好像直接讓法則衍伸理解 最後能直接違反法則
作者: LOLI5566 (蘿莉56) 2018-12-24 02:58:00
要怎麼定義"傷害"
作者: w40w40w40w40 (w40w40w40w40) 2018-12-24 03:12:00
這四大原則就是出自小說阿
作者: allen0205 (阿邱) 2018-12-24 03:24:00
第零法則沒電影那麼寬鬆，小說有提到機器人受三原則制約，第零法則要非常小心做過頭時會直接燒掉正子腦
作者: ohmylove347 (米特巴爾) 2018-12-24 04:11:00
舉個例子，打電動可能會讓人類整體素質下降，所以他們會沒收電動嗎？人常常做對自己不好但自己想的事
作者: qd6590 (說好吃) 2018-12-24 06:32:00
駭客任務裏面就是最後機器人發現做任何事情都會傷害到人類
作者: hitsuchi (你好) 2018-12-24 06:44:00
做個人型電腦就可以通通違反了啊
作者: garman0403 (他長) 2018-12-24 07:13:00
問題是怎樣才叫做叫傷害人類你也要給電腦一個名確定義阿原作有給出傷害人類的定義嗎
作者: shuten ( [////>) 2018-12-24 07:37:00
你知道艾西莫夫寫這原則就是拿來推翻的嗎
作者: iwinlottery (我中樂透頭彩) 2018-12-24 08:02:00
機械公敵：
作者: joe1220 (NoJeo) 2018-12-24 08:05:00
定義人類
作者: yao7174 (普通的變態) 2018-12-24 08:13:00
這些原則的作用不就是什麼都沒定義 讓人自己腦補 然後各種爆炸而已嗎
作者: P2 (P2) 2018-12-24 08:27:00
做成開關在恥骨的個人電腦啦
作者: f78507851 (小羊) 2018-12-24 08:30:00
不是定一堆規則 然後破壞規則嗎
作者: tin123210 (tineye) 2018-12-24 08:39:00
艾西莫夫搞了這些看似無堅不摧的法則，然後每一本機器人系列都在挑戰XD
作者: Shift2 (小老鼠) 2018-12-24 08:57:00
這就是有趣的地方啊
作者: angelicwing (Reopen) 2018-12-24 09:00:00
有部電影好像就AI判斷人類行為會導致人類毀滅所以打算把全人類監禁控制以保長遠生存
作者: garman0403 (他長) 2018-12-24 09:02:00
樓上說的就是機械公敵阿
作者: p123i456g (orenjijusu) 2018-12-24 09:16:00
看完機械公敵，覺得機器人沒錯，就是人類犯賤
作者: dimw 2018-12-24 09:22:00
這種東西會有洞原因就是什麼叫機器人 什麼叫人類 什麼叫傷害什麼又叫做整體人類其實並沒有明確範圍界定那個年代提到機器人的幻想大致上就是和人類一樣是個獨立個體不過在現代的幻想比較是傾向一種整體網路的概念 沒有實體
作者: fragmentwing (片翼碎夢) 2018-12-24 09:50:00
何謂人類？試定義
作者: hwsh60013 (夏洛特) 2018-12-24 10:13:00
就機械公敵啊
作者: CTUST (您真是套牢高手) 2018-12-24 10:27:00
第一條就互相衝突了，人類打人類怎辦？都收掉還都不管？
作者: octopus4406 (章魚仔) 2018-12-24 10:49:00
第零原則小說裏也只有丹民爾開得了不是 他的做法和機械公敵的差很多內
作者: ninght (路過的可憐蟲) 2018-12-24 11:02:00
你去看看艾西莫夫的小說，打臉方法超有創意，後人都只搬出極端情況下才用得到的第零法則來玩，他老人家就示範了在日常情況下，常用的三大法則是怎樣互相矛盾、毫無意義地製造沒人想過的煩惱，輕則莫名其妙欺騙你被人愛慕、重則去水星挖個礦明明很安全最後要用命賭才能回得來，還偶然製造懸案讓地球人賺外快，劇中人和讀者每次都花很長的時間，才發現
作者: wind7065 (夜明砂) 2018-12-24 11:17:00
誰知道ai演算會算成怎樣 連圍棋都已經算到超越人類領域了
作者: ninght (路過的可憐蟲) 2018-12-24 11:25:00
問題的徵結原來出在bug上，完美展現了如何在遵守為保護人類而存在的法則的前提下，為人類製造各種意想不到的災難
作者: lturtsamuel (港都都教授) 2018-12-24 10:04:00
第零法則不就是從三法則推出來的漏洞嗎
作者: gino0717 (gino0717) 2018-12-24 10:05:00
艾西莫夫自顧自的在小說裡弄了四個原則 再自顧自的推翻
作者: yuizero (14) 2018-12-24 10:05:00
你一定沒看訂製這4原則的原作者的小說裡面一堆矛盾和推翻
作者: D122 (å°é»‘çƒ) 2018-12-24 10:06:00
但當人類再自己毀滅自己(長遠來看) 那機器人是否就能行動
作者: yyc1217 (somo) 2018-12-24 10:06:00
有喔 駭客任務動畫版就有說 到最後機器人認為任何動作都會傷害到人類 所以停止運作
作者: bluejark (藍夾克) 2018-12-24 10:07:00
可以違反啊但是人類就是要被消滅
作者: lturtsamuel (港都都教授) 2018-12-24 10:07:00
我認為人類除了集體證悟涅盤 不然都是在傷害自己
作者: yyc1217 (somo) 2018-12-24 10:07:00
艾西莫夫短篇集都是在說這幾個原則的矛盾
作者: ainamk (腰包王道) 2018-12-24 10:07:00
叫機器人把腳拆給你 再拿這腳去敲死另一個人 猜猜會怎樣?
作者: lturtsamuel (港都都教授) 2018-12-24 10:08:00
要不再讓人類受到傷害 就是讓人類自願和平絕育
作者: dripcoffee (冰滴咖啡) 2018-12-24 10:09:00
我認為人類是指尼安德塔人這個人屬物種，OK可以開殺了
作者: yuponkimo (沈俠) 2018-12-24 10:11:00
叫機器人讓我爽到升天
作者: ainamk (腰包王道) 2018-12-24 10:11:00
一三法則 危險沒有立即性的時候效果會變弱
作者: wohtp (會喵喵叫的大叔) 2018-12-24 10:11:00
...這第零原則不就是要AI把人類當奴隸管束起來嗎
作者: ainamk (腰包王道) 2018-12-24 10:12:00
第二法則 你的命令強度會影響到他的強度所以艾西莫夫原作就有弱一對強二和弱二對強三這種劇本
作者: D122 (å°é»‘çƒ) 2018-12-24 10:13:00
機器人的頭腦就是腦補(計算)用的 當越高效能的開始思考所謂"對人類最好 最不會傷害"時 都很有可能得出要搞人類的答案
作者: ztO (不正常武士) 2018-12-24 10:14:00
人類喜歡鑽漏洞 那設計\製造 的產品 必然有漏洞存在 所以杜芬舒斯 從原則上解決了這個問題 他所有的作品都擁有自爆裝
作者: openbestbook (吃蘿蔔不吐蘿蔔皮) 2018-12-24 10:14:00
沒看過艾西莫夫?
作者: ztO (不正常武士) 2018-12-24 10:15:00
置 即便他自己也不清楚 自己為何要裝自爆裝置? 但就結果來看這樣的做法很成功
作者: firefoxriko (自由主義者的忠心測試) 2018-12-24 10:15:00
請參閱電影機械公敵
作者: Gavin0w0 (がらくた) 2018-12-24 10:16:00
人類都會自己傷害人類 機器人要怎麼不坐視人類受到傷害?
作者: ztO (不正常武士) 2018-12-24 10:16:00
一鍵還原(自爆) 的必要性
作者: RaiGend0519 (Named RaiGend) 2018-12-24 10:18:00
第零原則不就等於要創造一個駭客任務的母體= ="
作者: SuicideWorks (SuicideWorks) 2018-12-24 10:20:00
假設大氣遭到嚴重汙染 可以勉強呼吸 但呼吸時會對身體器官有害 那什麼時候科學家才會發明出可愛大奶貓耳女僕機器人
作者: eric999 (eric999) 2018-12-24 10:41:00
無人飛機殺爽爽
作者: sincere77 (台灣會更好) 2018-12-24 10:46:00
內文無ACG點吧
作者: armedlove (Easonyang) 2018-12-24 10:51:00
有趣 希望有更多討論
作者: r901700216 (LS) 2018-12-24 10:52:00
機器人三定律本身就算點了吧
作者: truegod000 (我是原住民) 2018-12-24 10:58:00
機械公敵好像直接讓法則衍伸理解 最後能直接違反法則
作者: LOLI5566 (蘿莉56) 2018-12-24 10:58:00
要怎麼定義"傷害"
作者: w40w40w40w40 (w40w40w40w40) 2018-12-24 11:12:00
這四大原則就是出自小說阿
作者: allen0205 (阿邱) 2018-12-24 11:24:00
第零法則沒電影那麼寬鬆，小說有提到機器人受三原則制約，第零法則要非常小心做過頭時會直接燒掉正子腦
作者: ohmylove347 (米特巴爾) 2018-12-24 12:11:00
舉個例子，打電動可能會讓人類整體素質下降，所以他們會沒收電動嗎？人常常做對自己不好但自己想的事
作者: qd6590 (說好吃) 2018-12-24 14:32:00
駭客任務裏面就是最後機器人發現做任何事情都會傷害到人類
作者: hitsuchi (你好) 2018-12-24 14:44:00
做個人型電腦就可以通通違反了啊
作者: garman0403 (他長) 2018-12-24 15:13:00
問題是怎樣才叫做叫傷害人類你也要給電腦一個名確定義阿原作有給出傷害人類的定義嗎
作者: shuten ( [////>) 2018-12-24 15:37:00
你知道艾西莫夫寫這原則就是拿來推翻的嗎
作者: iwinlottery (我中樂透頭彩) 2018-12-24 16:02:00
機械公敵：
作者: joe1220 (NoJeo) 2018-12-24 16:05:00
定義人類
作者: yao7174 (普通的變態) 2018-12-24 16:13:00
這些原則的作用不就是什麼都沒定義 讓人自己腦補 然後各種爆炸而已嗎
作者: P2 (P2) 2018-12-24 16:27:00
做成開關在恥骨的個人電腦啦
作者: f78507851 (小羊) 2018-12-24 16:30:00
不是定一堆規則 然後破壞規則嗎
作者: tin123210 (tineye) 2018-12-24 16:39:00
艾西莫夫搞了這些看似無堅不摧的法則，然後每一本機器人系列都在挑戰XD
作者: Shift2 (小老鼠) 2018-12-24 16:57:00
這就是有趣的地方啊
作者: angelicwing (Reopen) 2018-12-24 17:00:00
有部電影好像就AI判斷人類行為會導致人類毀滅所以打算把全人類監禁控制以保長遠生存
作者: garman0403 (他長) 2018-12-24 17:02:00
樓上說的就是機械公敵阿
作者: p123i456g (orenjijusu) 2018-12-24 17:16:00
看完機械公敵，覺得機器人沒錯，就是人類犯賤
作者: dimw 2018-12-24 17:22:00
這種東西會有洞原因就是什麼叫機器人 什麼叫人類 什麼叫傷害什麼又叫做整體人類其實並沒有明確範圍界定那個年代提到機器人的幻想大致上就是和人類一樣是個獨立個體不過在現代的幻想比較是傾向一種整體網路的概念 沒有實體
作者: fragmentwing (片翼碎夢) 2018-12-24 17:50:00
何謂人類？試定義
作者: hwsh60013 (夏洛特) 2018-12-24 18:13:00
就機械公敵啊
作者: CTUST (您真是套牢高手) 2018-12-24 18:27:00
第一條就互相衝突了，人類打人類怎辦？都收掉還都不管？
作者: octopus4406 (章魚仔) 2018-12-24 18:49:00
第零原則小說裏也只有丹民爾開得了不是 他的做法和機械公敵的差很多內
作者: ninght (路過的可憐蟲) 2018-12-24 19:02:00
你去看看艾西莫夫的小說，打臉方法超有創意，後人都只搬出極端情況下才用得到的第零法則來玩，他老人家就示範了在日常情況下，常用的三大法則是怎樣互相矛盾、毫無意義地製造沒人想過的煩惱，輕則莫名其妙欺騙你被人愛慕、重則去水星挖個礦明明很安全最後要用命賭才能回得來，還偶然製造懸案讓地球人賺外快，劇中人和讀者每次都花很長的時間，才發現
作者: wind7065 (夜明砂) 2018-12-24 19:17:00
誰知道ai演算會算成怎樣 連圍棋都已經算到超越人類領域了
作者: ninght (路過的可憐蟲) 2018-12-24 19:25:00
問題的徵結原來出在bug上，完美展現了如何在遵守為保護人類而存在的法則的前提下，為人類製造各種意想不到的災難
作者: mapulcatt (cosi fun tutte) 2018-12-24 13:40:00
對這個題材有興趣 又嫌艾西莫夫書太多 最少也要看 Irobots
作者: Qder (qd) 2018-12-24 14:22:00
2018還在搬這骨董法則 自以為很懂嗎? 作者都打臉自己過了
