不講人話 臉書關掉聊天機器人
http://news.ltn.com.tw/news/world/paper/1123701
自創語言對談「脫稿演出」 人工智慧發展出現警訊
〔編譯魏國金／綜合報導〕社群媒體巨擘「臉書」（Facebook）在發現其研發的兩個人工
智慧機器人，自創人類未予設定的奇怪語言彼此對話後，已關閉爭議性的聊天機器人（
chatbot）實驗。英國「每日郵報」報導，臉書此舉令人再度關切人工智慧發展的界線與
可能產生的危機。
聊天機器人是指可以與人類以及其他電腦對話的軟體，以執行諸如訂位、預約或推薦餐廳
等工作。臉書的實驗是利用機器學習演算，教導機器人「愛麗絲」（Alice）和「鮑伯」
（ Bob）有關人類的言說。愛麗絲與鮑伯間的怪異對話，源於上月「臉書人工智慧研究實
驗室」（FAIR）的研究人員，要它們就帽子、球與書本間的交易進行協商，相關物品都給
予特定價值。
研究人員讓愛麗絲與鮑伯在選擇物件時自行溝通，它們並未獲得以英文交談的指令，結果
它們很快地「脫稿演出」，以它們自己的機器語言一來一往地對話。這種全新語言看似胡
言亂語，但研究人員說，它實際上是一種速寫，讓「對話智能體」（dialog agent）之間
溝通更有效率，但無助於達成它們被指派的任務。
FAIR客座研究員、喬治亞理工學院的巴特拉（Dhruv Batra）說：「智能體將逐漸停止使
用可理解的語言，並自創密語。」上週，他與另一名FAIR研究員路易斯（Mike Lewis）甫
宣佈，研究出現重大突破，可賦予機器人談判與妥協的能力，有助於研發出具備推理、交
談與協商能力的機器人。
對此，網友說，這就和Netflix上演的機器人電影「奧圖瑪塔」（Automata）一樣。也有
人說，應將臉書立即關閉，因為他們對實驗沒有控制能力，是在玩火。但也有人說，沒有
意識，就不代表什麼。
科學家唱衰 札克柏格樂觀
科學家與微軟創辦人比爾．蓋茲等科技名人曾表示，人工智慧導致意料之外的後果。二○
一四年，知名物理學家霍金（Stephen Hawking）警告，人工智慧可自行快速進化與自我
再設計，可能導致人類滅亡。特斯拉汽車等企業創辦人兼發明家穆斯克（Elon Musk），
上月也疾呼立法規範人工智慧發展。但臉書執行長札克柏格對人工智慧十分樂觀，認為那
些反對並鼓吹末日情境者，「我覺得這樣實在很不負責任。」