1. 程式人生 > >python scrapy基礎學習

python scrapy基礎學習

 PHP交流群:294088839

 Python交流群:652376983


scrapy的命令操作
1.建立一個專案 scrapy startproject 專案名
2.生成一個spiders檔案 進行專案編寫 scrapy genspider 檔名 網址
3.全域性執行命令
4.區域性執行命令 必須在專案下
scrapy genspider -l  列出來建立時建的模板
設定指定模板 scrapy genspider -t crawl 檔名 網址
5.執行你爬蟲的程式測試命令 scrapy crawl spiders檔案中你建立的檔名
例:scrapy crawl zhihu
6.check 命令 為了測試程式碼是否有錯
例 :scrapy check
7.list 返回專案中的所有的名稱
8.edit 在命令中書寫程式碼 用的不太多
9. fetch 幫助我們下載一個網頁
10.view  網站下載 把網址儲存下來
11. shell 命令列互動模式

12. 進行抓取資料的儲存 scrapy crawl 專案名 -o 檔名.json