[問題]關於scrapy 和pandas 的問題

作者: allen511081 (藍)   2015-03-12 22:35:09
各位好,小弟最近有兩個小問題,需要各位幫小弟解答一下
1.scrapy爬蟲程式有沒有辦法在同一個程式碼裡批次輸出網頁資料?
EX:我有11萬個網頁,我想要分成3萬3萬輸出成CSV
2.pandas的to_csv有沒有辦法將多個dataframe的CSV合併成一個?
作者: ccwang002 (亮)   2015-03-13 01:17:00
回 2:pandas.concat pandas.merge,看是什麼方向
作者: ug945 (ug945)   2015-03-13 01:23:00
在Spider內記錄筆數 到了就寫到不同的檔案去
作者: allen511081 (藍)   2015-03-14 10:21:00
謝謝,我照你們的方法處理完了

Links booklink

Contact Us: admin [ a t ] ucptt.com