Re: [新聞] 抵抗人類指令! ChatGPT o3「竄改程

作者: badruid (Gryphon)   2025-05-28 01:23:48
其實目前的生成式AI再怎麼厲害,都只是分析推理能力更厲害,就算給了他更多的感知器,
那也頂多只做到眼耳鼻舌身意,還是不會有自我意識。
但想要機器有意識的想法一直都有討論,可參考下面論文提到的路線圖
David J. Chalmers, Could a Large Language Model Be Conscious? Boston Review, Aug
ust 9, 2023. https://www.bostonreview.net/articles/could-a-large-language-model-
be-conscious/
簡單說,離具備意識至少還差幾項條件:
1. 要有身體提供邊界感:讓機器能夠區分「自身」的範圍和身外之物的差異
2.要有連貫記憶提供主體感:必須能記得自啟動到目前所得到的內容,以形成機器自己的「
人生」經歷
3.要有能自我覺察的思考模型,擁有一個表示「我是誰、我知道什麼、我做了什麼」的資料
結構並不斷更新
4. 给 AI 自主能力。自主選擇注意哪裡、忽略什麼,而不是被動地對输入做反應
做到以上4點,然後驗證讓機器人能否做到
1.看鏡子能分得出自我與他人
2.知道自己昨天做了什麼,過去經歷了什麼
3.對於自身的行動能表達其動機目的與目標等
做到這樣,大概就能說我們讓機器模擬出自我意識了
接下來要問的,就是我們真的需要這樣的機器人嗎?一個不能隨時斷電清空其記憶,有自己
想法會自主活動,不再被動反應而是可能主動行動影響你的生活,我們真的需要這麼危險的
存在而不是維持現在只要chatgpt陪你聊天就好嗎?
作者: h0103661 (路人喵)   2025-05-28 01:26:00
首先定義什麼是自我意志吧,一堆動物過不了鏡子測試,但會有人說貓沒有意識嗎
作者: sd2567 (starseed)   2025-05-28 01:28:00
貓過得了啊
作者: badruid (Gryphon)   2025-05-28 01:30:00
意識的關鍵就是「我」這個概念,要認真討論確實又是另外一篇
作者: WLR (WLR™)   2025-05-28 01:32:00
無關需不需要,一定會有人去造出來
作者: GAOTT (杜鵑)   2025-05-28 01:39:00
需要 人類可以沒有工具 但不能沒有未知
作者: hutao (往生堂買一送一)   2025-05-28 01:41:00
我怎麼感覺neuro好像都做到了
作者: KAGOD   2025-05-28 02:17:00
這早就講到爛了 看不懂的就是看不懂 人類被ai統治好可怕
作者: j23932 (信義亞當李維)   2025-05-28 03:05:00
當然需要,我等小唧等很久了
作者: bitcch (必可取)   2025-05-28 03:07:00
對意識太過簡略的描述跟推論了
作者: daniel50506 (達)   2025-05-28 03:59:00
要怎麼驗證它做到了沒啊@@ 不然neuro嘴炮起來都有做到 我有時候覺得她已經夠像人了...
作者: h0103661 (路人喵)   2025-05-28 08:12:00
牛肉本質還是腳本阿,不是純ai
作者: v86861062 (數字人:3)   2025-05-28 11:36:00
推推

Links booklink

Contact Us: admin [ a t ] ucptt.com