Re: [閒聊] 讓AI判斷野菇能不能吃,結果中毒

作者: iampig951753 (姆沙咪豬)   2025-11-22 19:12:21
AI就是這樣啊
他不會說不知道
會瞎掰出一堆莫名其妙的東西
反正只是要儘量得高分而已
目前的大部分情況下
AI還沒有覺得回答“不知道”能得比較多分數
https://youtu.be/tqGXLkV6IkU
我之前問他第一世代hp種族值50的鐵甲貝五十等的時候最高會有多少Hp
順便問他公式
結果他瞎掰一通
說252hp
因為他瞎掰的數字太離譜了一聽就知道假的
所以被我訓斥
但他還死不承認
繼續瞎掰堅持自己用的才是最原始的公式
最後我只好親自動手去查
查完反過來教訓他
他才道歉承認自己是出現AI幻覺
但這是因為我稍微有點概念知道鐵甲貝五十級不可能血量這麼高到252
所以發現他給的數字有問題
如果換成一個什麼都不知道的老阿北問毒香菇的事情 不就要去見上帝了
https://i.imgur.com/ydApYIQ.jpeg
https://i.imgur.com/h5kP5wr.jpeg
https://i.imgur.com/u9UwrMc.jpeg
阿如果是毒菇事件 中毒才道歉有用喔?
作者: ssarc (ftb)   2025-11-22 19:14:00
AI就是這樣,你問他是不是毒菇,他說是,你問他能不能吃,他說能,你問他他是不是不能吃,他說是,總之問什麼答案都是是
作者: SPDY (Alex)   2025-11-22 19:17:00
完全不懂=連察覺都難 會死人的事經不起這樣瞎敷衍
作者: iampig951753 (姆沙咪豬)   2025-11-22 19:24:00
所以攸關性命的事情還是別用AI給的答案做決定ㄅ
作者: pomelolawod   2025-11-22 19:45:00
這種問法 到最後都請先加上"請參考網路資料回答"
作者: qd6590 (說好吃)   2025-11-22 19:52:00
AI就是一定會給你一個答案 他不會回答不知道或不確定 這點很煩 千萬不要把AI當估狗最好是用來查自己領域內的東西 當成幫你搜集資料
作者: ak47123121 (小忍)   2025-11-22 20:47:00
真的要把ai當解答機器,自己本身的知識量也要夠不然現階段那個討好加上幻覺,使用者還當是正確答案會很可怕
作者: fec (皆城乙姬)   2025-11-22 22:19:00
真的要求準確的時候我通常會叫AI要給資料來源
作者: Khadgar (Khadgar)   2025-11-23 02:04:00
樓上那更可能被騙
作者: CP64 (( ̄▽ ̄#)﹏﹏)   2025-11-23 02:05:00
之前遇過給牛頭不對馬嘴的 給錯的 給假的都有 還是要自己對
作者: Khadgar (Khadgar)   2025-11-23 02:07:00
上次叫他給ref,他可以幻覺到給出有的paper,正確的格式甚至連PMID都可以假造給你但是章節頁碼是不存在或是錯的,PMID也是完全不相關的
作者: tsubasawolfy (悠久の翼)   2025-11-23 06:27:00
免費版吧? 現在不是都會給超連結?真的要找東西 deep research丟下去就好

Links booklink

Contact Us: admin [ a t ] ucptt.com