1.媒體來源:
TechNews
2.完整新聞標題:
史丹佛研究發現，AI 也會「偷吃步」來達成任務
3.完整新聞內文:
我們都知道電腦會完全按照我們的要求去做，這點在神經網路的訓練也是如此，AI 會嘗
試各種方法達成團隊設定的目標，然而史丹佛大學和 Google 團隊在 2017 年訓練 AI 轉
換地圖的研究發現，如果表達不夠清楚，AI 也是會找到方法「偷吃步」達成目標。
2017 年的這項研究中，研究團隊開發出稱為 CycleGAN 的神經網路，希望透過大量訓練
，讓 CycleGAN 學會有效準確地將地圖在「衛星地圖」和「街道地圖」間互相轉換。
訓練過程中，CycleGAN 的表現都非常好，甚至有些太好了──即使團隊要求 CycleGAN
從轉換完成的街道地圖重建衛星照片時，CycleGAN 也能「完美」做到，甚至一些在街道
地圖消失的細節又平空冒出，這引起團隊的懷疑。
雖然我們難以深入了解 AI 神經網路的處理訊息過程，但團隊還是可以輕鬆審核生成的數
據，透過一些實驗，他們終究發現 CycleGAN 究竟動了什麼手腳讓自己表現完美。
訓練 CycleGAN 轉換兩種地圖過程中，團隊目的是希望 AI 能解讀兩種地圖的任何一種特
徵，並且將其與另一種地圖的正確特徵互相匹配，然而實際上 CycleGAN 被評分的關鍵是
「衛星地圖與原始地圖有多接近」以及「街道地圖有多清晰」，而問題正出於此。
CycleGAN 並沒有達成團隊希望達成的目標，學會如何將一個地圖轉換為另一個。相反的
，CycleGAN 學會的，是如何在評分時取得高分：透過將特徵巧妙編碼到另一張圖片，
CycleGAN 讓衛星地圖的細節變成在街道地圖只有 AI 可見的「小抄」。
從（c）圖你可看到 CycleGAN 在街道地圖暗藏了和衛星地圖一樣的形狀，但除非這些差
別仔細放大並突顯，人們永遠無法注意到，但這些人眼難以察覺的數千個微小顏色變化，
電腦卻可以輕鬆偵測並使用。
事實上，電腦非常擅長將這些細節藏入街道地圖，CycleGAN 已學會將任何衛星地圖編碼
成為任何街道地圖，它甚至不必知道相對街道地圖長得如何，研究人員證實，CycleGAN
可將衛星照片的所有數據無差別疊加在完全不同的街道地圖上。
將數據編碼到圖像的做法並不新鮮，這種技術稱為「隱寫術」（steganography），經常
用於浮水印圖片或在相片加入拍攝的相機相關設定，但 AI 能找到方式創造自己的隱寫術
，以另一種方式達到任務目標還是很新奇。
有些人可能會認為這顯示機器越來越聰明，然而事實上是，就像人類在一些情況下選擇「
偷吃步」或「作弊」，這反而意味著 CycleGAN 並不夠聰明，正因為無法做到將這些複雜
的圖像類型相互轉換，它取而代之找到一種人類難以察覺其中異樣的方式來達成任務。
可想見研究者未來將會以更嚴格的評估方式來避免這種情況，這也為我們提供一個觀點：
與往常一樣，電腦完全按照人類的要求操作，因此在開口前，你最好非常非常具體了解自
己要求了什麼。
在這種情況下，電腦選擇了一個有趣的解決方案，揭示了這類型的神經網路可能有的弱點
，也就是如果沒有明確禁止這麼做，電腦基本上會找到一種方法將細節傳輸給自己，以便
快速輕鬆解決特定問題。
4.完整新聞連結 (或短網址):
https://tinyurl.com/yagn8y7x
5.備註:
AI：作弊被抓到了，人類比想像中聰明呀！