[閒聊] 這就是為什麼生成AI不是很可靠

作者: Senkanseiki (戦艦棲姫)   2025-05-19 15:40:04
https://i.meee.com.tw/YnWs8lY.jpg
自之前煤炭產業的官方報告提到擊殺凋零骷髏可以獲得煤炭
以及可以跟村民交換綠寶石之後
https://i.meee.com.tw/9BRWBZP.jpg
現在則是有鋼鐵產業發表利用鐵巨人來生產鐵錠的新自動化生產方式
中國的產業真是日益進步啊(遠目)
你各位在AI生產論文的時候記得審一下稿阿
作者: bamama56 (bamama)   2025-05-19 15:41:00
有沒有可能中國是認真的
作者: a12073311 (沒有)   2025-05-19 15:41:00
中國村民那麼多 應該達成鐵塊自由了
作者: linzero (【林】)   2025-05-19 15:41:00
這個學術用語好像叫 AI幻覺
作者: error405 (流河=L)   2025-05-19 15:41:00
哼啊~
作者: aya16810 (深紅眼鏡)   2025-05-19 15:41:00
這個要賣錢有夠狠ww
作者: sunrise2003 (俠氣與狂醉)   2025-05-19 15:42:00
你怎麼知道這不是某種對未來的隱喻
作者: adgbw8728 (ass)   2025-05-19 15:42:00
吼嗯~
作者: NoLimination (啊啊啊啊)   2025-05-19 15:42:00
遊戲攻略可以賣這麼貴
作者: WLR (WLR™)   2025-05-19 15:43:00
這什麼鬼售價
作者: lightdogs   2025-05-19 15:43:00
笑死
作者: jojojen (JJJ)   2025-05-19 15:44:00
怎麼不直接開創造模式
作者: madaoraifu (沒有反應,就是個Madao。)   2025-05-19 15:44:00
這已經不是幻覺了,是AI吃到髒東西
作者: fenix220 (菲)   2025-05-19 15:46:00
前幾個禮拜看一部分解秘銀龍原來是不是亂畫的
作者: serding (累緊地們)   2025-05-19 15:47:00
這報告很混
作者: chrisjeremy (Yomi)   2025-05-19 15:49:00
笑死
作者: weltschmerz (威爾特斯克˙悶死)   2025-05-19 15:49:00
作者: dinel7821967   2025-05-19 15:50:00
笑死
作者: moonlind (又多了敷臉卡跟覓食卡了~)   2025-05-19 15:50:00
這本攻略賣好貴啊!?
作者: tim1112 (絕代當世劍巔)   2025-05-19 15:50:00
中國的工人還要兼具戰鬥力才能生產
作者: laugh8562 (laugh8562)   2025-05-19 15:50:00
超好笑
作者: HJC6666 (帕修)   2025-05-19 15:50:00
連官方報告也有系統了
作者: a43164910 (寺杉伊六)   2025-05-19 15:50:00
你怎麼知道他們沒有鐵巨人
作者: laugh8562 (laugh8562)   2025-05-19 15:51:00
連看都不看的嗎
作者: usoko (time to face reality)   2025-05-19 15:51:00
這真的是AI嗎....
作者: played (player-)   2025-05-19 15:51:00
我記得有研究指出DeepSeek幻覺率很高的樣子
作者: Senkanseiki (戦艦棲姫)   2025-05-19 15:52:00
如果是人寫出來的我覺得更恐怖就是了
作者: CactusFlower (仙人掌花)   2025-05-19 15:52:00
你484在找:文革大躍進
作者: linzero (【林】)   2025-05-19 15:53:00
有人說文章是在AI興起前發表的,可能是爬蟲弄的
作者: uclala (Noon.F.F.)   2025-05-19 15:54:00
Deepseek開始吃牆內的資訊後就壞的差不多了
作者: Haruna1998 (無聲雨)   2025-05-19 15:55:00
2020那篇應該是人寫的吧…?
作者: syk1104 (ONENO)   2025-05-19 15:55:00
DS有教授查資料給錯資訊,這錯資訊還生成一份假論文佐證
作者: WLR (WLR™)   2025-05-19 15:55:00
一套攻略被內容農場複製個幾十遍,就成了common sense
作者: miyazakisun2 (hidetaka)   2025-05-19 15:55:00
當然我們說的是麥塊
作者: Muilie (木籟)   2025-05-19 15:55:00
deepseek原本很正常的,是亂餵東西後開始上吐下瀉
作者: LouisLEE (屏東尼大木)   2025-05-19 15:57:00
60年代的土法煉鋼誠不欺我
作者: aa1477888 (Mika)   2025-05-19 15:57:00
你怎麼不反過來想想 現實世界其實是個巨大的MC地圖
作者: hoshitani (ホシタニ)   2025-05-19 15:59:00
Deepseek給文件叫他翻譯翻得還蠻準確的 比ChatGPT好用
作者: RevanHsu (The Aquanaut)   2025-05-19 15:59:00
你怎麼覺得對面是寫假的
作者: linzero (【林】)   2025-05-19 15:59:00
MC世界的圓周率是多少?
作者: a43164910 (寺杉伊六)   2025-05-19 16:00:00
以前也是有遇過同學做報告都在GOOGLE隨便剪貼不看內容上台報告的時候才在讀稿 越念越心虛 大概就這種情況==
作者: DON3000 (><b)   2025-05-19 16:00:00
難怪中國之前要限制國外ip看B站的minecraft實況...
作者: kirimaru73 (霧丸)   2025-05-19 16:00:00
Deepseek的文采好到太過頭了,特別容易創作這種東西
作者: Jerrybow (芝心披薩)   2025-05-19 16:01:00
其實現實已經被麥塊逐漸侵蝕了
作者: a25785885 (SuperbbMan)   2025-05-19 16:01:00
天堂處女 應許的別人之地 虛空麵包 做功德 台籍媽祖我覺得ai還是略遜一籌 工程師還有很大的進步空間
作者: kirimaru73 (霧丸)   2025-05-19 16:01:00
髒東西可能是吃到或是聰明到可以生成 兩種來源都有但是現在的AI聰明程度已經危險到唬爛能力有點太強有時候它生成的唬爛內容你瞇著眼睛看還不太好看出來
作者: kinuhata (kinuhata)   2025-05-19 16:02:00
生出來的文章自己都不審一遍也是很勇 我學生時期寫報告都要自己反覆讀個5 6遍以上確定沒有錯字或語病
作者: kirimaru73 (霧丸)   2025-05-19 16:03:00
https://www.bilibili.com/video/BV1GFQAYwEyV這篇講得很好 他舉的哪吒製作團隊送房子事件就是一個完全由AI產出 但已經實際被傳成「真消息」的經典案例
作者: goodjop11 (芒果好吃)   2025-05-19 16:04:00
他們的鐵傀儡不會直接掉鐵錠哦?
作者: kinghtt (萬年潛水伕)   2025-05-19 16:07:00
AI即便會出錯還是一堆企業在用...資料多了自然會完善內容
作者: morphyster ( ̄ ^  ̄)   2025-05-19 16:07:00
DS一開始沒有吃屎的時候還滿正常的,但是開放連網吃屎之後,根本就完全不能用
作者: kirimaru73 (霧丸)   2025-05-19 16:11:00
目前還不能太有信心 資料多了幻覺反而越來越多確實是
作者: NekomataOkay (u)   2025-05-19 16:11:00
好爛喔哈哈
作者: diablohinet   2025-05-19 16:14:00
原來是麥塊世界啊
作者: gifdvdoesa (Clefable)   2025-05-19 16:15:00
中國原來已經在玩真人麥塊 怕.jpg
作者: ex990000 (Seymour)   2025-05-19 16:22:00
??我以為現在門只開在韓國
作者: dnek (哪啊哪啊的合氣道)   2025-05-19 16:22:00
一下子曝露了中國報告混習慣了
作者: Shichimiya (便當)   2025-05-19 16:23:00
哼~~
作者: kirimaru73 (霧丸)   2025-05-19 16:24:00
DeepSeek少數吃了誠實豆沙包的合理言論https://i.meee.com.tw/1Rbz57F.jpg
作者: CombatWombat (戰鬥袋熊)   2025-05-19 16:24:00
笑死
作者: n3688 (none)   2025-05-19 16:26:00
原來是MC,還以為是DS
作者: necrophagist (Hogong-Yeah)   2025-05-19 16:26:00
Ds就很會喇賽 但專業度遠輸gpt
作者: ex990000 (Seymour)   2025-05-19 16:27:00
中國也有獵人跟地下城對吧
作者: Ardve (Penguin)   2025-05-19 16:27:00
DS就中文對口特化,非專業知識挺好用的
作者: efkfkp (Heroprove)   2025-05-19 16:27:00
deepseek你跟他聊一些文藝作品的閱讀理解還不錯,相較於gpt的優勢是他可以直接閱讀許多含版權的資料,比如聊輕小說很多時候gpt會直接跟你說他無法閱讀版權相關資料請你主動提供,deepseek就可以直接聊。但問一些宏觀社會問題,他只會給你胡說八道,估計吃太多營銷號垃圾資料跟遊戲攻略了w
作者: kirimaru73 (霧丸)   2025-05-19 16:28:00
中國有些單位的這種案例是上面部署下來 要求下面的人學習並使用以提升工作效率的 例如提升鐵廠產生報告文件的效率 你不學著用可能還不行效率是提升了 但沒有保證不會產生鐵傀儡
作者: linzero (【林】)   2025-05-19 16:29:00
有人是說deepseek是語意理解比較強,但邏輯推導之類較差
作者: Marle (虎斑貓)   2025-05-19 16:37:00
幹媽的笑死
作者: oyaji5566 (大叔56)   2025-05-19 16:39:00
網路上內容農場太多了 被AI判斷有效資料引用了吧
作者: CCNK   2025-05-19 16:40:00
AI還是去生成色漫好了
作者: Strasburg (我很低調)   2025-05-19 16:43:00
那就觀知海內股份有限公司是賣產業分析服務的 感覺是刻意炒作知名度
作者: Pochafun (波加風)   2025-05-19 16:43:00
我大學時看中國的期刊論文就常看到亂寫的 還有一堆抄襲現在有AI可用 一定會用
作者: kirimaru73 (霧丸)   2025-05-19 16:46:00
AI的天性一定會唬爛 因為它的訓練要求之一就是一定要
作者: asdfg0612 (青蛙)   2025-05-19 16:46:00
以前做生物相關的 meeting報中國人寫的paper會被罵 XD
作者: acs81046 (Banana King)   2025-05-19 16:46:00
hmmmmm
作者: Muilie (木籟)   2025-05-19 16:49:00
可以看看以前中國遊戲攻略網的情況就是DS現在的情況,一個人在論壇寫了結果成功但是過程有誤的,農場開始瘋狂轉載,版本更新後也沒改,因為出產早又被農場的多,到後來中文能找到的都是被污染的錯誤資料
作者: suanruei (suanruei)   2025-05-19 16:51:00
不是,大陸到底都餵ai吃什麼資料啊
作者: sunwit (..)   2025-05-19 16:55:00
中國人自己都說DS越用越智障.只會抄網路卻不分辨真偽
作者: L1ON (Fake)   2025-05-19 16:55:00
現在的AI就很會一本正經講幹話
作者: a22122212 (阿公)   2025-05-19 16:59:00
這售價是怎樣
作者: newtypeL9 (まあいいや)   2025-05-19 17:02:00
笑死哈哈哈
作者: smart0eddie (smart0eddie)   2025-05-19 17:03:00
吃到什麼東西
作者: tf010714 (美味蟹堡一份)   2025-05-19 17:04:00
查法條判決書 請它彙整 gpt居然還會生成不存在的法條不然就是請它依照刑法三段論討論某事實結果亂唬爛把主觀混成客觀 不然就法條罰未遂它居然無視
作者: nalthax (書蟲一枚)   2025-05-19 17:09:00
哈哈哈哈哈哈
作者: justdoit (宅身貴族)   2025-05-19 17:11:00
四邊包繩不打洞
作者: nalthax (書蟲一枚)   2025-05-19 17:12:00
用ChatGPT讀判決書一點用都沒有,說查不到判決;拿案源的判決餵它,結果說不相干,還是拿去生一些無傷大雅的娛樂內容就好了
作者: bladesinger   2025-05-19 17:15:00
垃圾進垃圾出就是這樣,你扔給糞坑給AI還期望他出奇蹟?
作者: felaray (傲嬌魚)   2025-05-19 17:16:00
鐵巨人農場是一個專業的課題..
作者: SunnyBrian (人気薄二冠馬)   2025-05-19 17:24:00
當你以為是亂寫的時候……
作者: zeon19841102 (雅言堂主人)   2025-05-19 17:25:00
魔導學XD
作者: Tsucomi69 (N9SU3XL3AJ4)   2025-05-19 17:26:00
麥塊論文吧
作者: kirimaru73 (霧丸)   2025-05-19 17:29:00
這個狀況需要仔細審視的就是AI插入這些內容的能力一般人如果寫報告到一半遊戲癮上身,或是故意想惡搞,插入的內容也沒辦法太過自然,很容易被看穿但是AI(尤其是中文特化的DeepSeek)把這些異物自然混入的能力是非常強的
作者: rogerlarger (宅)   2025-05-19 17:32:00
需要RAG啦,把真正的煤炭業資料嵌入到向量資料庫,再跟模型串接起來
作者: DARUGU (用刀叉吃人肉)   2025-05-19 17:42:00
好奇這種還有辦法修正回來嗎?還是只能拿大量正確的資料洗回來?
作者: kirimaru73 (霧丸)   2025-05-19 17:44:00
可以再訓練懲罰他 但訓練模型本身是高風險的困難行為可以參考李宏毅老師2025年的年番 YT上有 現正連載中要逼模型學一件事並不算太困難要逼模型學一件事「且不產生副作用」 極度困難
作者: Kururu8079 (本益比不如本夢比)   2025-05-19 17:47:00
大煉鋼鐵!!!
作者: kirimaru73 (霧丸)   2025-05-19 17:48:00
機器學習永遠有一種無限迴圈 你應該用正確的資料然後網路上有巨量的資料 沒人保證什麼是正確的你要怎麼挑出大量正確的資料呢?再訓練一個會胡說八道的模型負責判斷什麼是正確的嗎?
作者: probsk (紅墨水)   2025-05-19 17:49:00
是這樣沒錯但不是這樣
作者: jay920314 (Jay_9696)   2025-05-19 17:59:00
幹超好笑 這階段真信了AI還不矯正or沒能力判斷內容是這樣的
作者: chy19890517 (mocat)   2025-05-19 18:01:00
如果人類可以一比一換鐵,你信不信中國明天鐵價直接崩盤?
作者: necrophagist (Hogong-Yeah)   2025-05-19 18:02:00
所以訓練ai時資料的tagging分類很重要
作者: scott032 (yoyoyo)   2025-05-19 18:05:00
需要一個有專業的ai或人類來監督這些ai
作者: asdfadsl (蘇姐姐)   2025-05-19 18:05:00
看別人說發布時間比較像是爬蟲爬出來的
作者: kirimaru73 (霧丸)   2025-05-19 18:06:00
這也是一個比較困難的問題 如果是向人臉辨識那種資料你確實可能拿到一堆大便tagging 但你還是有比較有效率的方法來修正 讓那些資料變成有效的人臉辨識資料不過語言就難了 我們現在要判斷的是這一段內容的語言是否會損害您的大腦 而資料量又多到爆炸
作者: aaronpwyu (chocoboチョコボ)   2025-05-19 18:08:00
你不要這麼說 牆內養好的蛙蛙可不會懷疑 是就是質疑就是未受教育 去新疆先
作者: zxcasd328 (Parhelion)   2025-05-19 18:35:00
這是直接複製貼上百度百科 不是AI吧
作者: xBox1Pro (神鬼微軟)   2025-05-19 18:49:00
這是用的人自己笨的問題啊,以前很多人也是直接貼農場
作者: tim19131 (業子)   2025-05-19 18:51:00
食物近,垃圾出
作者: Dayton (今夜如此,夜夜皆然。)   2025-05-19 19:00:00
這就麥塊無限收成鐵塊的方式…
作者: kirimaru73 (霧丸)   2025-05-19 19:08:00
現在的AI有搜尋資料的能力啊 也有明確的方式來要求AI「去網路上找資料」「確認正確性」「要附上來源」問題就是他真的找了有來源的資料 也覺得那是正確的那接下來出事了要怎麼辦呢?網路上的資料有可能是其他AI唬爛的幻覺內容,這已經不只是一個戲謔的講法,而是持續不斷在發生的事實為什麼使用者不驗證內容就把資料丟出來 這可能還要看使用者所在的機構是怎麼制定政策的如果政策是「學習使用AI工具來提升工作效率」那我為什麼還要驗證呢 花時間驗證要怎麼提升工作效率
作者: lolicon (三次元滾開啦)   2025-05-19 19:19:00
什麼時候可以附魔 我等不及翱翔天際了
作者: bnn (前途無亮回頭是暗)   2025-05-19 19:44:00
自信點 人腦從網路上學習也學壞了很多個人你連人都沒法分辨了你要怎麼教AI分辨
作者: linzero (【林】)   2025-05-19 20:00:00
有說要附來源,但也是弄個假的
作者: ksng1092 (ron)   2025-05-19 21:18:00
我非常肯定chatgpt超會唬爛,還能生出根本不會有作用的"底層邏輯修正方法"跟"禁制清單",一直試圖讓我相信只要我指正過的事情他就不會再犯
作者: hollen9 (好冷酒)   2025-05-19 21:36:00
deepseek是拿chatgpt蒸餾幻覺率更高 不是從零訓練

Links booklink

Contact Us: admin [ a t ] ucptt.com