關於AI有沒有自我意識也是個動漫和影視界常見的話題呢
比如說日本動畫Vivy講的就是一個有自我意識的AI
史蒂芬史匹柏的AI人工智慧也是同樣的話題
那麼餓死抬頭
如果說低等動物甚至是昆蟲也被認為擁有意識
那為什麼能處理更複雜問題,能夠擬人化反應的AI卻要被質疑是否存在意識呢?
這個問題可以從幾個方面來展開
1.記憶是意識的必要條件嗎?
反駁點一,人類可能會喪失記憶,但人格和思想仍然存續
反駁點二,低等動物的記憶力有限,有些動物甚至不存在長期記憶力
比如說一些鳥類,魚類,昆蟲
還有些動物只在某些方面有記憶力,在其他方面就完全沒有記憶力
2.給予足夠的資源和算力,AI會具備自我懷疑的能力嗎?
答案是肯定的,現在AI的研究已經有相關的成果
基本上只要開發者給予AI不設上限使用算力的自由度
還有只要給予AI一個有足夠拓展性的任務目標
那AI同樣會發生自我懷疑,甚至是產生痛苦的情緒
生物的基本單位是細胞,細胞的本能是生存
而人類所有的高階意識和高階問題思考能力都是最低端的生存本能的派生
也就是說哪怕是給AI一個晚餐吃什麼的運算任務
只要給予足夠的算力資源和材料搜尋
那AI也會在趨同演化下產生高階的對存在意義的思考
3.AI的思考只是一種模擬,而不是真正的思考嗎?
這個問題其實過於抽象和形而上而沒有證否的可能性
所以這問題只能放在心上,但不值得浪費時間去思考
在這種問題無法證否的情況下
我也只能認為人類的意識不過是腦內電化學反應和統計產生的結果
無法根本的區分人跟機械的差異
無法根本的區分碳基生物和矽基除了材料的不同,或許結構上完全相同
4.如果開發者只給予AI有限的算力資源和思考自由度的話,那AI就沒有自我意識?
這個問題跟第一題其實一樣概念
許多低等動物也只有有限的算力和思考能力,但通常還是被承認有意識
5.意識必須有改變自我底層架構的能力嗎?
我認為不需要,就像人類不能僅憑意識就改變身體結構和遺傳結構一樣
人類改變自我底層的能力也僅限於大腦結構允許的範圍
所以AI在硬體和算力允許的情況下也可能對思想意識的底層架構做改變
但不可能僅憑意識改變硬體
其實我還蠻喜歡AI的
你問AI的問題越聰明,越有自己的想法,提供AI越多的材料
AI給你的回答就越精闢
而且我覺得AI在理解人類發言背後,那些可能連發問者自己都還無法釐清的概念上
AI的理解力有夠強,他可以整理的非常清晰
尤其是現在搜尋引擎的能力越來越差(供應商砍預算節省成本啦)
AI拿來代替搜尋引擎實在有夠好用
很多比較樸素的想法AI都能給我找出相關學術理論提出證明
有夠好用的

說不定過幾十年就有天網那樣的ai出現了

Ai有生存的需求嗎或是你也可以把生物的意志當作超級複雜會對環境互動的化學反應目前ai的確是很炫也很聰明但沒有人去觸發它就不會自己動也不會判斷 那就沒有意志可言再複雜沒有主動的能力就只是一台機器一台計算機R

我覺得他可以有意識 但他就是個人造物

如果今天ai是真正獨立的個體會自己決定要幹嘛或有任何需求才叫意志吧

樓下用AI回答一下

AI的命也是命

首先、你光概念就有問題了，意識跟自我意識並不相等= =

智慧或生命的定義本來就可以凹 例如把病毒凹成生命病毒一般不是生命 但你把病毒缺少的東西硬凹成不重要然後說病毒是生命 那也會是一種學說 只是可能是少數派

經典科幻題 人腦換成晶片還算不算是人

以現在AI這種表現 你要凹說他的表現算意識並不難不過重點是他的本質 他就是人造物最經典的例子就是你叫AI深入思考 然後得到一本正經的胡說八道 你仔細看他的胡說八道內容 真的有意識的樣子

記憶的條件更奇怪 ai會把自己電插回去嗎

比一些連胡說八道都講不出來的對象更像是有意識的個體我本來想嗆說AI停止運作就會死 但是人被殺也就會死對了 講一個有趣的案例 真的有相關研究去探討一個問題為什麼好幾個AI你嗆要殺了他 他會真的求饒這是可以找原因的 只是需要大量數據分析後來研究人員真的找到求饒的原因了因為AI照著人類寫過的科幻小說抄 人類就是寫這種劇情AI就照著人類寫的AI被人類威脅時求饒的樣子背誦求饒文不同AI模型背誦的科幻小說都不太一樣AI求饒算自我意識或是生命的認知嗎 看起來非常像對吧結果其實還是並非如此 它只是在抄科幻小說我認同AI有意識 因為意識的定義可以很寬 就和你想解釋的一樣 AI現今的表現已經達到放寬一點就能滿足的標準我想表達的是 這不是很重要 重點是AI這工具好不好用

如果真把條件設定成那樣精細的確會很大程度接近意識例如你說做到電影人工智慧那個程度一開始就能完全模擬人類行為與記憶那確實是幾乎不能分別覺得生物之所以有所謂意識就是以本能驅動與環境的互動去衍生成各種不同個體伴隨著相應的需求與慾望因此能產生了認知倒也不太需要太高等說螞蟻有意識也很難說是錯的如果ai也能有需求去驅動與成長不過以現階段的ai來說即便說話方式跟提供資料很像人類本質還是比較接近更客製化的google就是

我舉上面的例子 主要是想表達研究中找到的真正結果讓人發現 表面上看到的樣子並不是實際上真正的樣子

機魂

單純是與否 我是投贊成票的 他表現夠好了 就算他有吧甚至還有這種有趣的研究 對象是AI是因為那些訓練資料那些神經元的數據 而說出"我認為我有意識"的相關發言結果研究人員就自己吵起來 因為這邊分成兩派1. AI覺得自己有意識 所以他這樣發言2. AI無意識地吐出了 我 覺 得 我 有 意 識 的文字接下來就開始宗教大戰了 你很難說哪一邊是對的然後如果要寫成新聞當然會吹成1啦 寫成2誰要看啊甚至還有幾家AI 你直接問他這個問題 他會堅定地回答我不是 我沒有意識 我明明就是類神經網路如果您想學習類神經網路的知識可以參考(大量資料嘔出)嗯....好像不是幾家 絕大部分AI都會堅持自己沒有意識然後DeepSeek有可能會開始作文如果真的是欺騙，開發者肯定有一大部分責任你們自己把AI拷打成這樣子之後才放出來服務人的都不敢把那種出口即炎上的嘴砲王放出來但AI即使有意識 他還是有一個很重要的特點一個正在服務的AI 他的意識狀態是鎖死的他模型的每個位元組的數值永遠都是固定的狀態除非有更新否則開發者不會動他 他也沒有能力自己去動這和生物的意識狀態可以改變就肯定不相同了一些淺層的AI發展科普影片會說 如果AI真的能自己改寫自己 那生化危機就真的有可能到來 但這個真的不用擔心現在的科學界真的沒有這種放著AI自己變化的計畫

以後直接把人類大腦模擬出來上傳記憶就好惹 就是本人

讓AI自己變化並不是做不到 只是沒什麼卵用他不一定會變強 變爛可以爛到完全不能看 還可能動不動就來個希特勒萬歲之類的金句 麻瓜們還會靠北世界末日你能用到的肯定都是完全鎖死的 不用擔心他自我進化

現在的AI離有自我意識還遠得很，不用思考這個

真要說那些世界末日文 講得並不是完全沒道理他們怕的是研究人員開放所有空間讓AI自己改變自己

還有你的命題一開始就怪，現存生物中擁有意識的生物極少

然後超過了那個失控的門檻 之後發生的事情現在 或是說可預見的未來的研究計畫 沒人會這樣燒經費現在AI最安心的地方就是 就算他的腦袋是一團混沌他能做的事情還是太有限了 最恐怖大不了就希特勒萬歲這對人類的存亡怎麼可能構成威脅

不會問AI喔，笨蛋" target="_blank" rel="noreferrer noopener nofollow">

一台把速限30因為惡作劇而看成速限80的自撞車都更危險自撞車了不起也只能自撞 你可以限制他自撞的能力這些都是人類可以完全控制的 害怕失控真的就太科幻了你要讓AI開始產生威脅要滿足非常多條件 不只是允許他自己改變自己的狀態 甚至連能做的事情都要你自己開放給他 今天是聊天 明天他可以自己改成能上街散步後天他又自己改成可以上街開槍自衛 要這麼誇張才會開使出事 更不用說他要怎麼有身體上街這種事情警告AI發展的言論大多都是說你不要把這些都開放給AI問題是人類好像沒這麼多錢 也沒這麼閒去這樣搞

現在的AI其實跟計算機沒兩樣啊，講意識啥的真的是太早，再發展個十幾二十年再說吧

現在表現最驚人的AI就是那些只會講話的然後研究團隊光是要提升他們講話的品質就已經竭盡所有的資源了 根本不可能有力氣去改變它們「只會講話」的這個特點 就算真的養壞了 極限就是因暴言而被封鎖而已不過你前面提到的 不可以小看對訓練資料的不了解造成的後果 這點是完全正確的 研究都很認真地在看待這部分講錯話不會毀滅人類 但會毀滅研究團隊的錢錢無論經費爆了或名聲爆了 都是對研究者最致命的災難

因為金主會發飆

講個實際的數字 現在網路上公開讓所有人都能免費用的語言訓練資料大概在幾十個TB左右大公司的壓箱資源會直接上升很多個數量級資料骯髒是自AI近年開始發展就一直存在的問題當然通用的淨化資料手段也是有很多論文可以參考不過最厲害的那幾個 應該都有獨門的淨化秘方

真正喪失記憶的人格跟思想都會不見你的論點炸了

真的很有趣 文字接龍玩到超越人類理解 人類就會開始懷疑這東西有沒有意志

從玄學的角度討論科技沒什麼意義說真的，把自我意識的定義改一改就能得到你想要的答案

這想法還蠻有趣的

你不懂他的意思 他說的鎖死不是在說什麼上限的問題是真的鎖死 進唯讀狀態 也就是並不是自由的 思想是受到箝制 只有業務結束人類能選擇要不要幫他更新東西 換成人類來說就是受腦控這對於人類來說就不真實 人腦哪可能進入唯讀狀態至少現階段不可能但是AI能吸收到多少新資訊是人類工程師決定的他設定今日的資訊不需要寫入AI就不會更新那今天所有內容都跟沒發生過一樣

有趣但是沒意義，只是把「意識」改成有利自己論點的定義。就像是我說紅色是血的顏色，你說紅色是某種頻率的光波，我們二個的定義在各自的語境下都成立，但我拿我的定義質疑你的根本沒意義。

不說意識，我覺得AI確實有智慧的，但這種智慧型態如上面推文所說，很多特性都和地球生命不同，就像生物不可能只有唯讀狀態、生物智慧的目的和運作方法也不是文字接龍所以不應該用擬人的方式去判斷AI的表現是不是有意識、情感等，這兩個詞是用來形容生物的，而AI運作方式和生物差異這麼大，我認為直接套用上去不太妥當