首先，我們得先思考我們能不能用【人性】來形容機器
舉例來說，假設我們談「閱讀」
一個人在閱讀一本書，他可能有的行為是什麼？
例如他雙眼看著書，身體沒有在動，然後往後翻下一頁
當他放下手上的書開始和你聊天，可能會談到他剛剛在讀的這本書
然而如果今天是一隻鸚鵡在做這件事，鸚鵡雙眼看著書，鸚鵡身體沒在動
鸚鵡撥弄書籍來翻頁，然後把書本闔上，開始和你講話，你講一句他回一句
你會認為這隻鸚鵡剛剛有在「閱讀」嗎？
你會覺得使用「閱讀」這個詞在鸚鵡上是舒服的嗎？
還是你只是在把鸚鵡擬人化，事實上你內心深處完全清楚他根本不是在閱讀？
關於這點導致的困惑，就是因為我們還不清楚擁有和行使能力之間的差別。
有人會說，那我們來清楚做出「閱讀」和「人性」的一個定義
然而，這樣的單一定義沒辦法幫我們界定怎麼用加法這個詞
例如，當我們學習加法的時候，我們會學 1+1=2 然後 2+2=4
然而在掌握加法的過程中，我們會忽略掉去問什麼是「加法」？
也就是加法被你推升到一個高的層次，需要再一個更好的定義
當我們再對加法做某種定義，為了掌握這個定義我們必須去熟悉這個概念
勢必又會讓我們忽略掉某一個更根本的層面，又會再把加法往上歸類到更高一層
這就是在概念歸類中所謂的「上升的複雜性」
這注定讓那些想把某個「ＯＯ」進行一連串定義的人
永遠無法設計出一個機器，來清楚回答「什麼是ＯＯ」
因為你越是想把「ＯＯ」做越清楚的定義，越是破壞人們對ＯＯ的認識
這個認識可以從很多個角度來認識
這就是我們在描述特定概念時的規範基礎（Normative Foundation）
例如一個小朋友被教要有感恩的心，那他應該要常說請、謝謝、對不起
然而我們不會認為這樣這個小朋友就有感恩的心，我們會問他問題
請他解釋什麼是感恩的心，在不同時間、不同地點、不同角度
所以這個規範是從各種不同面向而來（取聯集）
無法被單一定義出來（取交集）
因為越是取交集，最後一定越是功能性的定義
越是功能性的定義，越是離我們社會上常談的大哉問：正義、人性越遠
好，所以如果我們希望機器能做到這點，做到對規範性的認識
我們基本上一定希望這個機器必須隨時隨地，對各種環境輸入都能學習
所以這也是為什麼在很多人工智慧大會上面，請來的非理工科專家
總是建議趕快做出一個能像小孩一樣瘋狂學習、好奇認知世界的機器吧！
所以當我們看到在某幾個領域有機器表現越來越厲害時
我們反而要謹慎，避免被這樣在單一領域很傑出的人工智慧給影響
而做出錯誤的類比，錯誤類推到廣泛的強人工智慧也快來了
關於這方面的主題，更多可以閱讀：
https://www.tenlong.com.tw/products/9780415408578
Wittgenstein's Remarks on the Foundations of AI
如果是想深入了解理工科那種什麼都先定義好的規則思維
和規範性的差別在哪裡的話，可以讀這本 2015 年出版的：
https://www.kingstone.com.tw/book/book_page.asp?kmcode=2010120018234
《理由轉向：規範性之哲學研究》