[新聞] 別造魔鬼終結者！專家促訂禁用AI武器條約
作者: wizardfizban (瘋法師) 2017-08-22 08:42:43
別造魔鬼終結者！專家促訂禁用AI武器條約
http://www.chinatimes.com/realtimenews/20170821005422-260417
包括SpacX老闆伊隆．馬斯克(Elon Musk)在內的100多名人工智能專家聯名，敦促聯合國
制定徹底禁止研發殺手機器人的相關技術，以避免人類自毀。
科學警報(Science Alert)報導， 114名AI和機器人專家以聯名公開信的方式，敦促聯合
國通過「禁止所有致命自主智能武器系統的發展，來防止即將出現的第三次軍事革命」
。
公開信是在澳洲墨爾本召開的2017全球AI聯合會(AI-IJCAI 2017)上發布的，公開信提到
一旦AI智能武器開發成功，未來的武裝衝突規模將比以前更大、更快而且更容易擴散，AI
武器除了在正規作戰會造成大量傷亡以外，很可能也會成為恐怖分子的主流武器，將有更
多無辜人民受害。
自動殺傷武器，或者稱為「殺手機器人」，它的開發速度很快，特別是現在電子科技已非
常普及，因此許多國家都有能力自主研發。。這些專家認為，以聯合國的軍事監管名義，
制定類似限制核武研發的國際條約已刻不容緩。
除了馬斯克以外，同樣在聯名信裡署名的還有Deep mind科技的蘇萊曼(Mustafa
Suleyman)、蘋果公司聯合創始人史蒂夫·沃茲尼克(Stephen Wozniak)。
公開信強調，「我們已沒有太多時間，一但潘多拉的盒子打開，就很難關閉。」
Clearpath機器人公司的創始人萊恩．蓋爾比(Ryan Gariepy)說：「簽署了這封信的著名
公司與眾多人物，顯示這項警告的份量，AI武器的危機不是一個假設的場景，而是一個非
常現實、非常迫切，值得立即採取行動的世界危機。」
多數人提到殺手機器人，最形象化的角色就是電影「魔鬼終結者」(The Terminator)當中
的T-800，它的外表令人膽寒，但實際情況是，現在已經有許多自動化的殺戮機器了，也
就是殺手機器早已被大量應用。
自主或半自主能力的武器很多，比如問世30多年的方陣快炮(Phalanx Close-In Weapon
System)，它是一種全自動系統，完全不必人工操作，只要有威脅物體接近，電腦就會自
己啟動，以攔截高速襲來的飛彈或飛機。而南韓三星的SGR-A1哨兵、英國BAE的雷神(無人
機Taranis drone)和美國國防高等研究署(DARPA)的海獵人無人潛艦(Sea Hunter
submarine)都可視為某種程度的殺手機器人。
換句話說，殺手機器人的技術種子已經在陸地、海洋和空中存在，因此更需要條約來約束
這些致命機器的開發。
====
看來以後看不到軍武娘了？
不過看這新聞讓我想到少前中會在背景故事中出現的人類反AI武器團體。
仔細想想只要有軍武娘的作品，好像都會有這類立場的反派出現。
http://www.chinatimes.com/realtimenews/20170821005422-260417
包括SpacX老闆伊隆．馬斯克(Elon Musk)在內的100多名人工智能專家聯名，敦促聯合國
制定徹底禁止研發殺手機器人的相關技術，以避免人類自毀。
科學警報(Science Alert)報導， 114名AI和機器人專家以聯名公開信的方式，敦促聯合
國通過「禁止所有致命自主智能武器系統的發展，來防止即將出現的第三次軍事革命」
。
公開信是在澳洲墨爾本召開的2017全球AI聯合會(AI-IJCAI 2017)上發布的，公開信提到
一旦AI智能武器開發成功，未來的武裝衝突規模將比以前更大、更快而且更容易擴散，AI
武器除了在正規作戰會造成大量傷亡以外，很可能也會成為恐怖分子的主流武器，將有更
多無辜人民受害。
自動殺傷武器，或者稱為「殺手機器人」，它的開發速度很快，特別是現在電子科技已非
常普及，因此許多國家都有能力自主研發。。這些專家認為，以聯合國的軍事監管名義，
制定類似限制核武研發的國際條約已刻不容緩。
除了馬斯克以外，同樣在聯名信裡署名的還有Deep mind科技的蘇萊曼(Mustafa
Suleyman)、蘋果公司聯合創始人史蒂夫·沃茲尼克(Stephen Wozniak)。
公開信強調，「我們已沒有太多時間，一但潘多拉的盒子打開，就很難關閉。」
Clearpath機器人公司的創始人萊恩．蓋爾比(Ryan Gariepy)說：「簽署了這封信的著名
公司與眾多人物，顯示這項警告的份量，AI武器的危機不是一個假設的場景，而是一個非
常現實、非常迫切，值得立即採取行動的世界危機。」
多數人提到殺手機器人，最形象化的角色就是電影「魔鬼終結者」(The Terminator)當中
的T-800，它的外表令人膽寒，但實際情況是，現在已經有許多自動化的殺戮機器了，也
就是殺手機器早已被大量應用。
自主或半自主能力的武器很多，比如問世30多年的方陣快炮(Phalanx Close-In Weapon
System)，它是一種全自動系統，完全不必人工操作，只要有威脅物體接近，電腦就會自
己啟動，以攔截高速襲來的飛彈或飛機。而南韓三星的SGR-A1哨兵、英國BAE的雷神(無人
機Taranis drone)和美國國防高等研究署(DARPA)的海獵人無人潛艦(Sea Hunter
submarine)都可視為某種程度的殺手機器人。
換句話說，殺手機器人的技術種子已經在陸地、海洋和空中存在，因此更需要條約來約束
這些致命機器的開發。
====
看來以後看不到軍武娘了？
不過看這新聞讓我想到少前中會在背景故事中出現的人類反AI武器團體。
仔細想想只要有軍武娘的作品，好像都會有這類立場的反派出現。
作者: shuten ( [////>) 2017-08-22 08:45:00
阿諾
作者: kopune (ç„¡é™æœŸæ”¯æŒ i☆Ris) 2017-08-22 08:47:00
有種此地無銀三百兩的感覺
作者: chses910372 (loveseeker) 2017-08-22 08:48:00
我猜不會禁止啦
作者: zhtw (人生就是不停的後悔。。) 2017-08-22 08:48:00
聯合國有什麼強制性嗎XD
作者: XavierLu (文杰科科) 2017-08-22 08:49:00
改成檯面下而已吧
作者: blasheep22 2017-08-22 08:49:00
核武散播條約：
作者: shun01 (老胡做13年,青沼瞬活14年) 2017-08-22 08:49:00
建議直接廢除聯合國
作者: xlagowe (小蔡) 2017-08-22 08:49:00
沒屁用，美中一定會研究，然後其他國家研究就會被罵是邪惡製造戰爭
作者: HYSQQ (其實我沒有 ) 2017-08-22 08:50:00
還好我們沒加入聯合國!
作者: valkyrie3812 (鬥天使瑟蕾娜) 2017-08-22 08:52:00
一人一信支持特列斯大人!!
作者: phix (88) 2017-08-22 08:53:00
不太可能AI吧 最多遙控
作者: djcc 2017-08-22 08:53:00
北韓造出來 美國真的沒造 才真的大亂
作者: meowyih (meowyih) 2017-08-22 08:53:00
數百年前就走的地雷也是全自動系統, 完全不用人工操作,只要有威脅物體接近就會自動啟動, 一樣吧? :p
作者: KiSeigi (Kuroda.K.Masamura) 2017-08-22 08:54:00
禁止研發，但以後美國會派自動AI去圍剿試圖研發的組織
作者: xlagowe (小蔡) 2017-08-22 08:56:00
呵呵呵呵，美國沒造出來才真的好笑，最愛做賊喊抓賊的對啦，非戰爭用，只是要拿來做學術研究，只是有需要的時候剛好就能轉戰爭用
作者: SoulFaith (不良小涼) 2017-08-22 08:57:00
智械人權？ 哼...
作者: jack30732 (ζ*'ヮ')ζ) 2017-08-22 08:59:00
看看歷史擋不住的啦 在死前我要怒pr一波機器人
作者: plasticdrink (23313) 2017-08-22 09:00:00
Planetarian 裡的封印都市
作者: e446582284 (ef225633) 2017-08-22 09:02:00
國際條約<<<<<<<<國家實力
作者: kenyun (中肯阿皮) 2017-08-22 09:04:00
之前就有模擬戰阿法狗打贏美軍ACE的新聞 要真的上天空有G力 那人類不就像被打好玩的 啊是說要禁AI 大不了一樣裝駕駛倉 切自動駕駛就是偷開AI就行了
作者: tonyxfg (tonyxfg) 2017-08-22 09:09:00
一句話，誰理他啊，誰真信了誰就準備在未來的戰爭被打到
作者: zien0223 (LazyCat) 2017-08-22 09:09:00
不～我的塔奇庫瑪！
作者: belmontc (あなたのハートに天誅♥) 2017-08-22 09:12:00
無人機都擋不下來了 機器人會擋得下來? 呵呵
作者: akuma183 2017-08-22 09:12:00
山姆叔叔一定會拖到自己做出來後 才叫大家一起不要做
作者: achita (果凍魚) 2017-08-22 09:13:00
智械危機？
作者: myanigi (豆仔) 2017-08-22 09:13:00
ˊㄇˋ
作者: jasonchangki (阿特拉斯聳聳肩) 2017-08-22 09:17:00
機器人人權法案該立法惹
作者: gtfour (朱兆蘭) 2017-08-22 09:17:00
一人一信支持特列斯大人!!+1
作者: xlagowe (小蔡) 2017-08-22 09:19:00
一人一信支持破滅魔劍，破滅魔劍>>>>>>>>>>>>>>>>>>鋼彈>>>>AIMA
作者: rayven (擲筊才是真正雲端運算) 2017-08-22 09:22:00
無人機已經在殺人了
作者: gunng (暗黑檢察官) 2017-08-22 09:22:00
準備啟動Horizon Zero Dawn
作者: SCLPAL (看相的說我一臉被劈樣) 2017-08-22 09:23:00
別阻擋我跟艾莉絲的接觸>////<
作者: arbo7777 (hahar) 2017-08-22 09:24:00
怕什麼？未來機器人擁有AI，人類走基因改造路線就可以了
作者: CCNK 2017-08-22 09:26:00
不就東亞重工的世界而已XD
作者: cloud7515 (殿) 2017-08-22 09:27:00
地平線期待黎明卿
作者: ckniening (☞罌粟小子☜) 2017-08-22 09:29:00
我婆
作者: kikikinds (金瓜石小雞籠) 2017-08-22 09:30:00
那可以做可愛的女僕機器人嗎
作者: abioa (吱阿嚕) 2017-08-22 09:36:00
飛機上放隻狗偷開AI就不是作弊惹吧
作者: littlemame (小豆) 2017-08-22 09:41:00
條約是給弱國遵守的 強國才不甩你
作者: vm06 (衍) 2017-08-22 09:43:00
阿諾:說過的吧，I will be back！
作者: sarraya (~ No Game No Life ~) 2017-08-22 09:48:00
請選擇機器人的政策方針：違法、奴僕、市民權(stellaris)
作者: SeijyaKijin (代時上克下的鬼邪天opeop) 2017-08-22 10:03:00
英國佬是對的
作者: joe1220 (NoJeo) 2017-08-22 10:05:00
我選擇使用噁必登洗衣精清理宇宙髒污
作者: pepiniii (丕平三世) 2017-08-22 10:15:00
不可能吧
作者: likeyousmile 2017-08-22 10:34:00
最後美國一定不會簽，世界上最愛戰爭的國家
作者: lockchad (locke) 2017-08-22 10:39:00
這不是未來事情比你們想像的嚴重，關鍵字 美國無人機 濫殺
作者: max199083 (阿盟) 2017-08-22 10:41:00
這就像有人發明引擎，然後聯合國限制他不能裝在武器上，免得武裝車輛跑太快；但真的遇到戰爭，大家一定會發現用民車裝武器效益比沒引擎的戰車好，最後就出現一堆鑽漏洞的做法
作者: greg90326 (虛無研究所) 2017-08-22 10:41:00
仔細想想幾千年前就有的捕獸陷阱也算是自動殺傷裝置吧
作者: Eito7 (詠人) 2017-08-22 10:46:00
反正美中俄那些大國也不會簽的，然後因為台灣不被視為國家，所以想簽也不能簽 ㄎㄎ
作者: wiork (我在工作~) 2017-08-22 10:48:00
還不是會有人研發黑科技...
作者: mayday7510 (山豬) 2017-08-22 10:53:00
派出絆愛醬就能屌打它們惹
作者: Slas (å²é›·æ–¯) 2017-08-22 11:04:00
幾萬個絆愛在戰場上顏藝嗎？
作者: jack30732 (ζ*'ヮ')ζ) 2017-08-22 11:16:00
幾萬個電子低能 人類要垮了 怕
作者: victor5517 (CompileError) 2017-08-22 11:38:00
想當初一戰時，德國認為散彈槍不人道，要限制，結果呢
作者: SCLPAL (看相的說我一臉被劈樣) 2017-08-22 11:40:00
吃我的MP18啦 ??
作者: lv256 (等級256) 2017-08-22 11:51:00
低能兒ww有空在那裡喊禁止不如想想怎麼反制，所有技術的進步都是為了戰爭，開發完ai不拿去用當世界各國喜憨兒嗎XDDD
作者: donkilu (donkilu) 2017-08-22 12:12:00
Metal gear啊啊啊啊啊
作者: Valter (V) 2017-08-22 12:28:00
左輪大人是對的 不該讓有意識的AI繼續存在
作者: richard42 (裏茶 汐兒) 2017-08-22 13:02:00
都簽 然後繼續研究
作者: WindSucker (抽風者) 2017-08-22 13:04:00
核彈:
作者: kamir (小K) 2017-08-22 14:06:00
聽命於電腦的人腦呢？
作者: kingo2327 (NakedGenius) 2017-08-22 15:51:00
I will be back
作者: notneme159 2017-08-22 16:12:00
metal gear
作者: HELLDIVER (Ζｚz...) 2017-08-22 19:42:00
法律也禁止人殺人
作者: HOLDSTEAK (握牛排) 2017-08-22 20:37:00
沒差啦 沒禁止開發貓娘就好了(?)
