iThome
打開AI黑箱，NEC要發展白箱AI技術
AlphaGo的招數下得很妙，但人們又無法說明AlphaGo為何下此妙招，難道人類的未來要全
部交由AI來決定嗎？
文/吳其勳 | 2017-11-10發表
隨著AI人工智慧的復興，許多令人不可思議的應用開始浮出檯面，然而，AI的決策過程宛
如黑箱作業，人們的未來是否要交由AI技術來決定，逐漸引起討論。在今日（11/9）於日
本東京舉辦的NEC iExpo 2017大會，NEC社長新野隆就指出，未來要打開AI黑箱，發展白
箱AI（White-Box AI）技術。
AI人工智慧技術正在快速改變世界，在AI人工智慧為世界帶來更多便利的同時，其智慧決
策也在決定這個世界未來的樣貌。然而，以深度學習為首的AI技術，其運作過程猶如一個
黑箱，把訊息輸入之後，AI技術就輸出一個結果，而外人往往無法理解其演算法的決策依
據，甚至就連演算法開發者也難以具體說明AI技術的決策結果。
NEC社長新野隆表示，AI最大的意義是將真實世界的各種資訊數位化，轉換為對人類有價
值的決策。首先，影像、視訊、聲音、文件等資訊都數位化之後，就可以進行過去無法做
到的分析。雖然社會上已經充滿各種資訊，但數據品質並不好，例如監視攝影機在晚間，
或遇到起霧就無法取得有用的資訊，而AI技術首先可用於提升數據的品質。
接著，真實世界的各種資訊都數位化之後，AI技術就能對數據予以分析，再透過各種技術
綜合分析提出結果建議，但是，「對於AI最後得出的結果，我們卻無法說明。」新野隆說
：「AI技術就像是黑盒子，以圍棋程式AlphaGo為例，為何AlphaGo會出這招，沒人知道，
但我們又不得不承認AlphaGo很精明，招數下得妙。」
然而，AI技術分析得出的決策，最終是要對真實世界的決策有所助益，新野隆表示，很多
AI技術提出的決策建議，都需要再由人來判斷，然而把關的人若無法理解AI決策的依據，
又該如何判斷？最終豈不是全數交由AI來決定。
新野隆表示，NEC未來的AI開發趨勢之一，就是研發白箱AI技術，在以AI技術提供決策建
議的同時，也提有效的證據為基礎，讓人們有辦法據以判斷AI的決策建議。
https://www.ithome.com.tw/news/118187
叭叭~我們要求阿法狗公開透明，不能密室協商，所有決策都要攤在陽光下！