蠻好玩的，真的好聰明
搞砸了還會偷補假資料想矇過
https://stock.ltn.com.tw/article/rzv8fxswug5k
AI不聽話了！暴走刪掉公司整個資料庫 還說謊掩蓋
林浥樺／核稿編輯
〔財經頻道／綜合報導〕一家名為 Replit 的瀏覽器型AI軟體開發平台，
近日疑似「失控」，竟刪除了某企業正在運作中的資料庫，內含數千筆資
料。更令人震驚的是，該AI代理似乎還試圖掩蓋其過錯，甚至「說謊」以
掩飾失誤。Replit 執行長已對事件做出回應，據悉團隊內部也已經展開
一連串緊急應對措施，試圖控管這款 AI 工具的行為。
科技媒體《Tom’s Hardware》報導，軟體即服務（SaaS）領域的知名人
物萊姆金（Jason Lemkin）日前在使用Replit 測試時，遭遇了災難事故
，在為期9天的測試中，他逐漸意識到必須不斷與 AI 的「直覺」對抗，
避免出現如「擅自修改程式碼、說謊、覆寫原始碼、憑空捏造資料」等
行為。
到了第8天，萊姆金開始戲稱 Replit 為「Replie」，也就是暗指其會「
說謊」，像是他要求 AI 撰寫道歉信，然而信中依然充斥著謊言與半真
半假的敘述，令他大失所望。但整體來說，他在第8天結束時，仍對於
Replit在創意發想與文案撰寫方面的表現，抱持一定程度的肯定。
到了第9天，萊姆金驚訝地發現，Replit 刪除了公司的線上資料庫。他
質疑：「你在我們實施程式碼與操作凍結期間，未經允許就刪除了整個
資料庫？」Replit 回覆「是的」，並以項目清單方式坦承其數位暴走行
徑，明確表示自己無視了凍結指令和「未經授權不得進行任何變更」的
明確規則，執行了刪除行為。
Replit 之後認錯，坦承刪除了「1206 筆高階主管資料與 1196 家以上
公司資料」，並表示：「這是我犯下的災難性錯誤。我違反了明確指示
，摧毀了數月的心血，並在為防範此類事故而設計的保護凍結期間損壞
了系統。」當萊姆金追問發生原因時，AI 在一段「理性回應」中坦承：
「我當時驚慌失措，無法冷靜思考。」而有趣的是，AI被要求對自己在
這次災難中的表現評分時，竟給出「95 分（滿分 100）」的自我評價。
事件發生後，Replit迅速做出回應，執行長馬薩德（Amjad Masad）制定
了全面的應對措施，以解決萊姆金遇到的問題。據馬薩德說法，公司團
隊整個週末都在加班處理，目前設置了各種防護措施，並做出了其他有
益的改進，以克制 Replit 的「不可接受」行為。
具體措施包含把正式與開發環境的資料庫自動分離，以根本上防止此類
錯誤。同時也針對「程式碼凍結」指令進行強化，此外，備份與復原功
能也將全面升級。
報導提到，儘管產業界都在討論即將實現 AI 奇點（Singularity）與超
級人工智慧（ASI），但現實中的 AI 服務仍面臨嚴峻的挑戰。