Re: [閒聊] 讓AI判斷野菇能不能吃,結果中毒

作者: Rimowa (德國品質)   2025-11-22 23:24:06
我想現在AI遇到最大的問題有兩個
一個是很多人提的 AI講錯也不用扛責 所以講錯也不會怎樣
另一個是因為AI怎麼樣都會掰出一套說法給你
如果相信了就可能有這次的吃毒菇案件
但如果還是懷疑堅持不信要自己求證 那又何必問AI?
也就是AI普遍就是大家希望懶人 當伸手牌就可以得到答案
結果得到答案以後又沒有把握
最後只好問AI一些無關緊要 無傷大雅的問題
那可就糟了
就好像AI在醫學影像判讀上面強到不行 人眼力再強也沒AI精細
可是在綜整結論上面卻常常胡說八道
所以絕對還是要跟專業醫師搭配 變成一個強力的協助工具
可是很多場景 是沒有專業人士的 或是說 若有專業人士 又何必問AI?
結果一堆門外漢去問AI 不是被AI誤導 就是問完還是沒把握
真的是一個新課題...
作者: x2159679 ((● ω ●))   2025-11-22 23:27:00
這讓我想到有名的台灣獨立遊戲去年七月三十一號在STEAM上由BearBoneStudio推出的沉沒意志所說的對人類對AI的最終追求
作者: h60414 (h60414)   2025-11-22 23:38:00
問AI的人自己還是要有些判讀能力吧 醫生配AI就能彼此互補
作者: billy791122 (jj)   2025-11-22 23:40:00
起碼寫簡單程式或投資問題還滿有用的
作者: tank44444 (tank)   2025-11-22 23:40:00
我叫AI幫我寫一段code也不會全部照抄啊
作者: dieorrun (Tide)   2025-11-22 23:50:00
整理資料給你是好用 但一堆人拿來問答案有些AI模型還會傾向變成回答你想要聽的答案
作者: excercang (啦啦啦)   2025-11-23 00:20:00
最怕的是問AI要吃什麼藥,就自已去藥局亂買
作者: carllace (柚子)   2025-11-23 00:21:00
AI會把類似的混在一起說
作者: aegius1r (SC)   2025-11-23 00:26:00
問AI可以拿到一些 你不見得知道要查的關鍵字但是把他的說法全盤接受就...吃毒菇吧
作者: Mareeta (尋找新樂章)   2025-11-23 00:33:00
查證啊 你把AI當成流言參考就好AI只是給你一個方向 你還是要看前面有沒有牆壁吧
作者: mana1993 (默莫)   2025-11-23 01:59:00
其實之前在ai剛推出時,相關人士就有提過,所謂的ai只是一個人云亦云的程式引擎。如果是有正確解答的問題還無所謂,但如果是一些模稜兩可或需要大量經驗判斷的事物,那ai的效果就很有限。可是不知道為什麼,很多人直接把ai的答覆當成了正確解答,甚至認為可以取代專家
作者: Orangekun (harima kenji)   2025-11-23 02:38:00
其實還是有些方法可以避免吧,例如多問問他看到的菇是什麼特徵,如果跟你看到的不一樣就別參考,如果一樣再進一步問菇的名字,在請他附上資料來源,現在很多AI都會附資料來源再進一步也可以提供採集地點,你線索越多準確度也會上升
作者: t13243334 (虎標萬金油)   2025-11-23 08:01:00
這哪是什麼大問題 屬下臺大實習生主管也不會照單全收還不是要慢慢調教 通用AI就是通才要查菇有沒有毒這種高風險 至少下個謹慎保守的prompt這就跟以前google剛出一樣 大幅降低知識門檻但知其然不知其所以然就會背知識債 遲早得還你查資料查到假資料會靠杯google 嗎 以前人真會
作者: kskg   2025-11-23 08:20:00
問她是什麼品種在自己比對也是能節省時間啦,但以吃菇來說直接放棄還是最省事
作者: stkissstone (淺澗遠秋)   2025-11-23 12:35:00
專業人士本身也可以靠ai協助

Links booklink

Contact Us: admin [ a t ] ucptt.com