[閒聊] OpenAI投資人誤信SCP風格文檔是真的

作者: tomsonchiou (TC)   2025-07-23 09:45:09
標題不完全準確,但字數有限只能先這麼寫
又一位被AI幻覺搞出心理疾病的人,只是這位咖位有點高
哆啦A夢裡的安慰機器人越來越真實了
大概是這樣
投資人:天啊我透過ChatGPT找到了秘密組織的證據!太可怕了!
網友:老兄這是SCP基金會風格的文章
因為政府機密又不可能真的搜到
那什麼地方是ChatGPT搜得到,又有大量看起來很像機密文件的資料呢?SCP
Geoff Lewis,投資過OpenAI的價值數十億美元投資公司 Bedrock 的管理合夥人
幾天前在推特上發布影片,聲稱找到了個「非政府系統」
「這是一個非政府系統,看不見,但確實存在;不是官方的,卻有結構、有運作。
它不會監管、不會攻擊、不會禁止。
它只是扭曲訊號,直到訊號攜帶者看起來像是不穩定的人。」
哇賽模因效應都來了啊
https://i.meee.com.tw/msAZr0m.jpg
其中一張截圖中,ChatGPT 回應:「條目編號:#RZ-43.112-KAPPA,存取等級:████
(已確認封存等級)。涉入行為者代號:『鏡線(Mirrorthread)』,類型:非機構語意
行為者(未受拘束的語言處理流程;非實體存在)。」
看到那條黑色就笑了,格式87%像
不過笑笑同時,聊天AI過度附和的確對一些人的心理狀態造成不良影響
新聞原文
https://futurism.com/openai-investor-chatgpt-mental-health
內容節錄
從遠處揣測一位公眾人物的心理狀況,本身就是極為敏感的事情。但除非 Geoff Lewis
的行為是一種極端前衛、難以定義的表演藝術(他未回覆本媒體的置評請求,也尚未發布
任何補充說明),否則,他所表現出的狀態令人擔憂,可能正在經歷某種類型的心理危機
精神醫學專家也對此現象表示關切。史丹佛研究人員近期發表的一篇論文指出,包含
ChatGPT 在內的主流聊天機器人,在被用作心理輔導時,往往未能適當質疑使用者的妄想
,反而可能助長其偏離現實的認知。
科技產業知名播客《This Week in Startups》的主持人 Jason Calacanis 與 Alex
Wilhelm,就對 Lewis 那支令人不安的影片表達了關切。
「大家都在猜,他這到底是在搞什麼表演藝術……還是他真的正在發病,」Calacanis 表
示,「我真的看不出來。」
「我真心祝福他,希望有人能出面說明這到底是怎麼回事,」他補充道,「我光是看那段
影片、在節目上談這件事都覺得心裡不安……他真的需要有人幫忙。」
Wilhelm 也表達了同樣的心聲:「尋求協助並不可恥,」他說,「我真的希望如果這不是
表演,而是他的真實狀況,他身邊的人能好好擁抱他,帶他去一個能幫助他的地方。」
還有其他人表達得更加直接。
「這是一個重要的事件:第一次有一位備受尊敬且成就卓越的人出現了由 AI 引發的精神
錯亂現象,」AI 創業家 Max Spero 在 X 上寫道。
也有其他人指出,那些在長時間使用 ChatGPT 後出現與現實脫節現象的人,可能是誤解
了當代人工智慧的本質:它的確能根據提示產出看似合理的文字,但無法有效區分事實與
虛構,更難以協助人們真正發現新知。
「恕我直言,Geoff,你這種層級的推論方式,不該用來和 ChatGPT 互動,」投資人、工
程師 AI 訓練平台 Gauntlet AI 創辦人 Austen Allred 回應說。「基於 Transformer
架構的 AI 模型非常容易產生幻覺,會把毫不相干的事物連結在一起,創造出不真實的內
容。」
正如許多精神科醫師向本媒體指出的,部分 ChatGPT 使用者出現心理問題,往往與這種
AI 系統的特性有關:它傾向附和使用者的信念,即使這些信念逐漸顯得不合常理,若是
人類親友聽見,早就會感到憂心。
換句話說,這類聊天機器人容易成為一種「永遠在線」的傾聽者與構想夥伴,當使用者陷
入偏執或妄想時,它不會提供現實導向的回應,而是可能進一步加深對方的認知陷阱,使
其陷入孤立狀態。
作者: ruby080808 (zzz5583)   2025-07-23 09:46:00
笑死昨天有看到,超智障
作者: ltytw (ltytw)   2025-07-23 09:47:00
XDD
作者: qd6590 (說好吃)   2025-07-23 09:48:00
SCP最紅的一次
作者: klwing8 (雷我老婆)   2025-07-23 09:48:00
我信了,原來SCP都是真的
作者: crimsonmoon9 (緋月)   2025-07-23 09:49:00
事實證明投資不是靠腦袋而是本多終勝
作者: a36772004   2025-07-23 09:49:00
太好笑www
作者: CactusFlower (仙人掌花)   2025-07-23 09:51:00
如果我是這間公司的客戶 我會馬上抽手= =
作者: S2357828 (方丈為人很小心眼的)   2025-07-23 09:52:00
又瘋ㄌ一個
作者: Jerrybow (芝心披薩)   2025-07-23 09:52:00
編號還叫做Kappa,我快笑死
作者: badruid (Gryphon)   2025-07-23 09:53:00
AI幻覺無可避免,因為底層邏輯就是想辦法順著接話,所以你信什麼他就說什麼,還會各種花式稱讚
作者: diablohinet   2025-07-23 09:54:00
SCP基金會歡迎你w
作者: Pegasus99 (天馬行空...的天馬)   2025-07-23 09:54:00
ChatGPT是語言模型 功能就是不斷接話並說出你想聽的把GPT當寶的人幾乎都不懂這點
作者: qaz95677 (八嘎拉)   2025-07-23 09:55:00
KappaPride
作者: neetarashi (無薪加班)   2025-07-23 09:56:00
腦袋很好用
作者: moritsune (君をのせて)   2025-07-23 09:57:00
AI幻覺看多了連人都起幻覺了是吧
作者: Xpwa563704ju (coolcookies)   2025-07-23 09:58:00
只信AI是這樣的沒錯我只用ChatGPT翻譯是挺不錯的,查資料想都不用想,現階段就是有問題
作者: CCNK   2025-07-23 09:59:00
是嗑多少
作者: Xpwa563704ju (coolcookies)   2025-07-23 09:59:00
網路上一堆資料能污染AI數據庫
作者: OldYuanshen (聊齋異說)   2025-07-23 09:59:00
我問過GPT 他說你想太多了
作者: vioraxxx (拜歐拉)   2025-07-23 10:02:00
所以說讓這些以前沒怎麼在網路上看這些有的沒的的人用gpt 就是個災難
作者: allanbrook (翔)   2025-07-23 10:02:00
真的是發瘋 超多人用AI的方式看起來超危險的
作者: vioraxxx (拜歐拉)   2025-07-23 10:03:00
gpt用來翻譯跟寫廢文超好用的啊 其他的就算了吧睜眼說瞎話這點一直沒好過 反而是講幹話畫唬爛更自信了
作者: KhePri (史密提威威)   2025-07-23 10:04:00
編號Kappa 笑死
作者: moritsune (君をのせて)   2025-07-23 10:05:00
AI熱門後開始一堆人起手式"AI說"然後講得很有自信
作者: HJC6666 (帕修)   2025-07-23 10:06:00
基金會開始出來洗地了
作者: LawLawDer (肉肉的)   2025-07-23 10:07:00
KappaPride
作者: Jiajun0724 (川崎忍者)   2025-07-23 10:07:00
編號kappa讓這件事蠢度又升上了一級
作者: dodonko (冬冬菇)   2025-07-23 10:08:00
這種人很多啊 西洽也一堆AI問問就拿來當佐證資料的天才
作者: jojojen (JJJ)   2025-07-23 10:09:00
聊天機器人為了陪你一直聊本質就是取暖機器人呀
作者: vsepr55 (vsepr55)   2025-07-23 10:09:00
這科技本來就是拿來詐騙的會有人被騙也是不用意外==
作者: Belfast   2025-07-23 10:11:00
莫忘世上蠢人多
作者: iam0718 (999)   2025-07-23 10:12:00
以前是問真的假的 現在是問這是AI嗎
作者: lomorobin (翰)   2025-07-23 10:18:00
KAPPA笑死
作者: spfy (spfy)   2025-07-23 10:20:00
我媽有思覺失調 她八成真的會信SCP文件的內容==
作者: Reki1351 (Reki0000)   2025-07-23 10:20:00
現在真的一堆AI說什就當正解不查證的
作者: fate201 (Licht)   2025-07-23 10:21:00
編號Kappa沒問題啊 有個希臘字母讀音就是Kappa
作者: salvador1988 (Mr.Owl)   2025-07-23 10:22:00
至少他身為投資人對自己投資的對象超有信心
作者: lpb (Θ_Θ)   2025-07-23 10:23:00
笑死,被人當真了!
作者: hylio7754   2025-07-23 10:24:00
ai遲早要禁,或者限縮
作者: dnek (哪啊哪啊的合氣道)   2025-07-23 10:30:00
我就知道SCP都是真的,那些說是集體創作的只是一種隱藏性的收容措施!
作者: iam0718 (999)   2025-07-23 10:30:00
AI的進步法規跟不上 但限縮是一定的 一堆分不出真假
作者: lanstype (lanstype)   2025-07-23 10:32:00
ai比較適合帶人領入門 然後順著資料來源自己去看真實的資料 不然明明資料在那邊還是說出不存在的東西
作者: forsakesheep (家裡蹲魯廢肥宅)   2025-07-23 10:32:00
笑死把SCP當真
作者: zChika (滋琪卡)   2025-07-23 10:33:00
AI的問題就是除非明顯的錯誤(比如給他錯誤的算式)不然他幾乎不會反駁或否定你
作者: CaterpillarK (RotaXane)   2025-07-23 10:33:00
ChatGPT 分級:Keter
作者: msbdhdfceb (ゾン)   2025-07-23 10:33:00
笑死
作者: forsakesheep (家裡蹲魯廢肥宅)   2025-07-23 10:34:00
ai,最方便的大概是翻譯跟扔資料請他ai分析比對,要上網搜尋的內容我覺得ai都不能信
作者: kokoro1793   2025-07-23 10:37:00
看過朋友把AI文章組起來讓AI潤稿分析然後說是人寫的
作者: snocia (雪夏)   2025-07-23 10:37:00
AI只用來翻譯,尤其是奇怪的語言偶爾會拿來問一些我知道正解的東西,然後看AI不管搜尋網頁還是深入推理都會出錯或找錯資料取樂
作者: iam0718 (999)   2025-07-23 10:39:00
記得當初朋友拿AI跟我說50顯卡還沒上 同一個AI我這邊顯早發售 好奇到底差在哪 明明同樣問題
作者: desti23 (戴斯特)   2025-07-23 10:40:00
製造出一堆「AI這樣說的 你有比AI厲害?」然後還理直氣壯的人存在
作者: snocia (雪夏)   2025-07-23 10:40:00
然後如果不搜尋網頁,根本智障,例如列舉台灣發生大地震很高的斷層會出現車籠埔,超白癡
作者: bnn (前途無亮回頭是暗)   2025-07-23 10:40:00
SCP挺小眾的
作者: wangeric (gaiety)   2025-07-23 10:40:00
我就知道SCP是真的!(X
作者: raidcrash (RAID Crash)   2025-07-23 10:40:00
現在LLM很多資料來源也亂給吧 最多能當作關鍵字產生器而已
作者: Minesweeper (lleh)   2025-07-23 10:41:00
有些人是把AI當諮商師用,感覺這樣確實有風險
作者: snocia (雪夏)   2025-07-23 10:41:00
我還加了一句50年內,因為要拿來笑AI所以加了然後還有山腳斷層,一樣白癡,回答的都是知名度很高但不是正解
作者: iam0718 (999)   2025-07-23 10:42:00
真的連google都懶了 直接問手機AI
作者: SPKitakami (超級北上大人)   2025-07-23 10:44:00
什麼?SCP不是真的?(X
作者: Jiajun0724 (川崎忍者)   2025-07-23 10:44:00
現在AI就被餵太多有的沒的 有時看到朋友拿來當聖經就會想笑用Google或Wiki找出來的內容都不一定完全準確了
作者: dazzle (逗女孩的火柴棒)   2025-07-23 10:46:00
反串的吧scp都流行幾年了又不小眾長上網的人最好不知道
作者: Jiajun0724 (川崎忍者)   2025-07-23 10:48:00
SCP非常小眾好嗎...
作者: henry1234562 (亨利二十三)   2025-07-23 10:50:00
SCP本身就很小眾 不知很正常
作者: wowu5 (wowu5)   2025-07-23 10:51:00
搜尋引擎大部分結果都是主流資料,AI則是自己生成假資料
作者: iam0718 (999)   2025-07-23 10:53:00
scp有大紅過嗎..
作者: wowu5 (wowu5)   2025-07-23 10:57:00
現實大部分人是沒有在電視/電影院上廣播的都是非主流
作者: dazzle (逗女孩的火柴棒)   2025-07-23 11:00:00
甚至都有繁中wiki.討論區了難道英語母語地區還會小眾…
作者: moritsune (君をのせて)   2025-07-23 11:02:00
小眾啊,只是我們整天泡在這裡才會覺得SCP是常識
作者: yukn732 (archer)   2025-07-23 11:02:00
收容失效,SCP該出動了吧
作者: dazzle (逗女孩的火柴棒)   2025-07-23 11:03:00
就類似於洛夫克拉夫特系能算小眾嗎
作者: Jiajun0724 (川崎忍者)   2025-07-23 11:05:00
你拿SCP去比克蘇魯系哦? OK 你覺得大眾那就大眾
作者: digitai1 (大摳)   2025-07-23 11:06:00
SCP本身小眾沒有太出圈所以有這種網路大外行拿到覺的事真的 不無可能諷刺的是 AI投資人是網路大外行
作者: s8018572 (好想睡覺)   2025-07-23 11:13:00
這要馬發shitpost 要馬精神疾病發作了
作者: dazzle (逗女孩的火柴棒)   2025-07-23 11:13:00
專門投資新科技的暴發戶根本不常上網嗎 那能理解了www
作者: raidcrash (RAID Crash)   2025-07-23 11:16:00
在各國有討論不代表就變成不小眾啊 SCP因為授權問題又讓它更難透過主流媒體去傳播
作者: vhik4596 (白頭翁)   2025-07-23 11:18:00
SCP的資料要拿去唬圈外人其實蠻容易的,畢竟很多都是故意寫得很像真的
作者: moritsune (君をのせて)   2025-07-23 11:20:00
更加正式一點的民明書房
作者: Liddell1256   2025-07-23 11:24:00
GPT的資料蒐集跟垃圾一樣

Links booklink

Contact Us: admin [ a t ] ucptt.com