※ 引述《breeze0817 ()》之銘言：
: 原文標題：
: 技術專家：ChatGPT的「幻覺」根本無法解決
: 原文連結：
: https://reurl.cc/N0KRy6
: 發布時間：
: 2023/08/09 15：58
: 記者署名：
: 鉅亨網新聞中心
: 原文內容：
: 掀起 AI 浪潮的 ChatGPT 儘管可以協助解決很多事情，但也因為會產生虛假的訊息，或
: 誤導性的內容，產生「人工智慧幻覺」(hallucinations) 而飽受批評，專家認為這種「
: 幻覺」受到技術與需求之間的限制，根本無法被解決。
: 財富網中文網報導，與 ChatGPT 或其他 AI 聊天機器人相處足夠長的時間，很快就會發
: 現它們有時會「編造答案」，這種現象被稱為「幻覺」，即機器人做出的捏造或純粹的編
: 造，對於那些試圖讓 AI 系統編寫文檔並完成工作的企業、組織甚至學生，這是一個致命
: 的問題。
: 聊天機器人 Claude 2 的製造商 Anthropic 共同創始人 Daniela Amodei 認為，現在沒
: 有任何一種模型能夠完全避免產生幻覺，因為它們的設計初衷只是用來預測下一個單詞，
: 因此模型肯定會有一定的錯誤率。
: 包括 ChatGPT 的製造商 OpenAI、Anthropic 及其他大型語言模型的 AI 系統主要開發者
: 都表示，他們正努力讓這些系統變得更準確，但目前尚不清楚需要多長時間才能達到足夠
: 的可靠性。
: 不過，華盛頓大學計算語言學實驗室的主任、語言學教授 Emily Bender 認為，「這個問
: 題無法完全解決，因為技術與實際需求之間存在固有的不匹配。」
: Google 已向新聞機構推銷一款新聞寫作 AI 產品，而作為與 OpenAI 合作的一部分，美
: 聯社也在探索使用這項技術，而 OpenAI 正在付費使用美聯社的部分存檔文本來改進其 A
: I 係統。因此，生成式 AI 的可靠性至關重要，麥肯錫全球研究院（McKinsey）預計，這
: 將為全球經濟帶來相當於 2.6 兆至 4.4 兆美元的收入。
: 心得/評論：
: chatGPT訪問量一再下滑
: 一窩蜂投資ai伺服器去訓練語言模型的
: 越來越有元宇宙的fu糗了
: 散戶：這次不一樣！！
純論AI的話 這個問題是一定可以被解決的
討論chatGPT肯定是無解 頂多提升準確度 提升到你認知不到「錯覺」
我自己是覺得用錯覺這個詞來闡述這個問題 好像滿奇怪的
簡單思考一下就知道了
假設AI是個人 他肯定會有他自己的認知
他的認知來自於他的資料庫
但誰能保證資料庫裡面的資料100%是對的？
畢竟資料庫的資料也是人為產出，或是他的開發者灌入的
最終都會限縮於：「什麼是對的」的這個命題
並且有一個很弔詭的事情是這樣的
「你憑什麼認為AI給出的答案是錯的，便稱作幻覺，難道就是基於人類的共同認知嗎？」
這個東西討論到後面就變成哲學問題了，所以不贅述。
但核心概念是這樣
一個人，老師，教授，都會有認知錯誤，都會出錯，為什麼人工智能不會
基於什麼樣的原因，你覺得他能掌握100%的真理，這樣想想不就知道了
但是基於網速科技提升，資料處理能力加強，程序優化肯定能再進步
回歸前面所說的，只要把AI的範圍侷限性拉大，就能提升正確率阿
比如你設定這個AI就叫做金融投資機器人，甚至叫做台灣金融投資機器人
並且串聯所有台灣銀行、投資平台、各大當鋪的內部資料
那肯定是強的沒話說。
你期待一個AI機器人，能貫通世界上所有領域的事情，給你都是正確的答案
那肯定是不切實際。
更何況一定一堆人是這樣：「請給我一個完美的python程序。」
「幹，你這個根本不完美」
你自己都定義不出來，都不知道什麼叫做完美了，AI怎麼可能會知道
你怎麼連話都說不清楚~
我自己是覺得AI很神啦，沒有戰文組的意思，但對於邏輯思考，表述能力不好的人來說
可能不好用
我在某平台上面，買了好幾次程式課，每次都沒有耐心看完，把作業做完。
chatgpt用了兩三天，已經弄出了兩個簡單的小程式，改善我工作上面的需求
平心而論，我就算認真把課程都上完，自己寫，寫個1個月，大概都弄不出來。
AI最強大的，就是他給你的資訊裡面，是有一定程度的正確率的，
你本來就要能分辨，什麼東西對你有用，然後再引導他幫助你，給出更多有用的資訊，
最後幫助你完成你的目標。