[心得] 讀克拉拉與太陽--關於人工智能雜感(雷)

作者: koichi (病懨懨 )   2021-08-04 17:37:58
從90年代起,就有不少關於AI人工智慧的小說或是電影,當中最負盛名當屬大導史蒂
芬.史匹柏於2001年上映的《A.I. 人工智慧》。在彼時我對於人工智能的發展,仍覺得
是一種遙遠的未來。直到2016年的Alpha GO擊敗了韓國的職業頂尖棋士李世石,我才驚覺
那電影中的未來或許已經不再遙遠……
曾有職業棋士提及,AI要在不讓子的情況下打敗人類棋士還要花上百年的時間,更有
頂尖棋士認為讓AI兩子的情況下還能游刃有餘地獲勝,然而這兩子的差距,現今已不復存
在。縱使有著極快速的學習能力,然而目前我們對於AI的普遍的認知還是屬於科技產物,
仍然很難把其與人類畫上等號,這或許是由於擁有著人類外觀的AI尚未在我們現在的生活
中普及的緣故。
2018年上市的互動式電影的PS4遊戲<底特律變人>,講述著在不久的未來擁有著和
人類完全外觀的仿生人(AI)已經完全地在我們的生活中普及,但也帶來不少的衍生問題
,如:失業率攀升(仿生人取代了一些基層工作的勞工)、廢棄的仿生人──看到遊戲中
仿生人棄置垃圾場中,散落四處的四肢、器官等零件,讓我感到怵目驚心,更無法想像如
果在我們現在的社會中,出現這種亂葬崗似的垃圾場是多麼地令人不安及恐懼──的掩埋
場。除此之外,最重要的就是遊戲的核心主題:仿生人產生的意識(情感)變化。
在這個世界上,人類的生存價值究竟是什麼?我們與仿生人之間,究竟有著什麼不同
的區隔?面對不同的生活場景,我們可以依照我們的價值觀做出我們的選擇,即使某些選
擇不那麼正確,但終究是我們經過思考所做出的決定,而仿生人亦即AI,我們不斷灌輸關
於人類社會的種種知識到其資料數據庫中,但這些仿生人是不是就能或著就應該撇除情感
的因素,全然地理性思考並做出"正確的決定"?(更遑論這些所謂”正確的決定”,極
大部份都是我們強加在他們身上,並單方面地要求服從而已),仿生人終究只能是服從人
類的命令的魁儡嗎?這款遊戲,讓我對於"人工智能"這個不再遙遠的未來,產生了很多
的思考。
今年初回到台灣,最高興的事莫過於終於能好好地逛逛書店了,一踏入書店印入眼簾
的便是石黑一雄的新作《克拉拉與太陽》,讓我欣喜若狂。拿起了書翻到封底,大略地讀
了讀這本書的簡介,發現這是一本關於講述人工智慧的小說,大大地引起了我的興趣。翻
閱了小說的第一章,有種似曾相似的熟悉感,小說的敘事視角是一名人工智能愛芙(類似
於褓姆或是陪伴者),克拉拉,正在一間人工智能愛芙的專賣店中,對著街上往來的人群
進行觀察,這個場景一如在<底特律變人>其中一位主角──卡菈,也是褓姆型仿生人,
都在等待著自己未來的主人。
做為一個陪伴型的愛芙(Artificial Friend),克拉拉展現了與眾不同地善解人意
,她總是極為細心地觀察生活周遭地種種變化,尤其是情感上的變化。我很喜歡當中幾段
描寫,和克拉拉觀察到了紛擾的街上有一對正在吵架的計程車司機,她明顯地感受到了兩
人的憤怒情緒,但是當她一旁同在落地展示窗的愛芙蘿莎,提及這件事時,蘿莎卻完全不
覺得那兩個人是在吵架,她覺得那只是這兩個人的一種遊戲;克拉拉看見兩位久別重逢的
白髮蒼蒼的男子和女子,體會到了在他們的喜悅背後的悔恨、痛苦的情緒。也就是如此細
微地觀察,讓克拉拉遇到裘西──那位即將成為她未來的家人的女孩時,能夠深深感受到
裘西對她的喜愛,並且做出了認定她的主人非裘西莫屬的決定,她更曾因此故意地在其他
對她有興趣的客人面前表現不佳,讓客人最終放棄選擇克拉拉。
初至裘西家的第一天,發現家中已經有了一位管家梅蘭妮,所以克拉拉不需要照顧裘
西的日常起居,她只需要陪伴在裘西的身邊,克拉拉對於這樣的安排不疑有他,隨著故事
的進展,我們才發現原來陪伴並不是克拉拉主要的任務,而是藉由陪伴學習裘西的行為模
式,並為將來的資料轉移做準備。
直到這個一刻,我才真正了解當母親買下克拉拉的那天,要求克拉拉模仿裘西的動作
的真正原因。雖然身為AI的克拉拉,理應照著主人的要求去行動,但是在面對生了重病的
裘西,克拉拉並沒放棄任何希望,她向太陽許願甚至做出了莫大的犧牲,只為了祈求裘西
的病情能夠好轉。克拉拉為我們所展現的,正是人與人之間連結的最重要的情感──愛。
小說的最後,克拉拉和愛芙販售店的經理在廢棄場再次相遇,克拉拉向她述說著自己
對過往的選擇全然無悔,即使她知道自己有機會可以"延續裘西的生命",但是她卻不知
道自己是否有能力可以做到,她覺得自己無法了解也無法再現裘西在每個人心中的模樣,
更重要的是,克拉拉對裘西的愛,這份愛超越了一切,驅使著她做出了不同於一般愛芙的
判斷,她願意犧牲自己並全力達成她與太陽的約定。
依照自己的情感所驅使進行判斷並做出決定,這讓克拉拉與<底特律變人>中的"變
異"仿生人變得沒有不同,在遊戲中一旦仿生人出現變異,就會應該回收並被銷毀,但"
愛"的情感展現該算是"變異"嗎?這該是這些人工智慧遭抹除銷毀的原因嗎?或許這是
在全面進入人工智能時代前,我們所需深深思考的其中一個問題,我們賦予了AI人類的外
貌的同時,卻又試圖剝奪其情感能力,這是身為"人"的我們所當為的嗎?
作者: viaggiatore (▁音)   2021-08-04 18:24:00
好故事摘要。
作者: god2 (乙炔)   2021-08-04 19:06:00
人工智慧
作者: ctw01 (0000)   2021-08-04 22:57:00
其實現在講人工智能的情感 根本是太監談生育就留給小說家與哲學家去探討研究吧~純粹是浪漫與趣味的思考但事實上有點研究都知道 現在科技還離這些太太太遠了
作者: viaggiatore (▁音)   2021-08-04 23:50:00
我倒覺得這議題在ACG領域討論的更多呢,有時候覺得好像講的東西在什麼漫畫就看過了,像這篇故事會讓我想起火之鳥的羅比,還有一個延伸出去的沙耶之歌變態故事...如果AI的發展終究讓人造物誕生出"心"之類的東西,我認為那絕對是收不回去的,就算收得了人造物的物質就像有辦法解安裝初音,但是沒辦法收回初音唱過的歌初音未來的激唱最後那段高速歌詞,可以設想成某人幫AI們表達的心聲,那種速度人沒辦法唱也無法永遠抹滅
作者: Rainy1007 (Ariel.chu)   2021-08-05 02:14:00
推心得 對這本一直很有興趣

Links booklink

Contact Us: admin [ a t ] ucptt.com