[問題] 完全新手問題 有關csv產出

作者: meichiang (美江)   2018-09-22 01:18:28
手邊有一大筆資料 1千多萬的資料
第一欄位 為商品代碼 之後欄位為這商品的其
他資料 總共有一千多萬筆資料 要將一個大的
csv檔根據第一欄的商品代碼 根據商品代碼另
存為csv檔
由於沒寫過程式 爬文慢慢寫出 以下東西 但感覺錯了 用小筆資料跑 明顯的跑錯只開了
根據商品別開csv 但csv內沒讀取到資料
https://i.imgur.com/Tl2oDh9.jpg
作者: shadowfu (shadow)   2018-09-22 01:27:00
可以改用pandas的dataframe來做 可能會好做一點
作者: jackwang01 (艾斯比那)   2018-09-22 01:47:00
你的y是有csv副檔名的,if y in fcolumn1可能找不到東西?
作者: meichiang (美江)   2018-09-22 02:15:00
有好的解決方法嗎?如果一次跑太多筆資料 要怎麼防呆
作者: jackwang01 (艾斯比那)   2018-09-22 02:19:00
把y改成column1應該就行了? 不知道你想做的是不是這樣
作者: DChun (Ding)   2018-09-22 11:25:00
可以試看看pandas
作者: fgghhg (fgghhg)   2018-09-22 12:27:00
跑不了是跑不完嗎?還是跑完沒結果?這不一樣這寫法是全部都讀到memory做,一千多萬筆是有點多,有可能吃不下,還要看一筆有多大
作者: acer1832a (Mike)   2018-09-26 09:43:00
你要不要檢查一下CASHVALUE.csv這個檔案,看有沒有某一行是空白沒資料的。因為for in應該是不會有index outof range,比較有可能是在fline.split(',')[1]這裡出錯

Links booklink

Contact Us: admin [ a t ] ucptt.com