1. 程式人生 > 程式設計 >使用maven實現有關Jsoup簡單爬蟲的步驟

使用maven實現有關Jsoup簡單爬蟲的步驟

目錄
  • 一、oup的簡介
  • 二、我們可以利用Jsoup做什麼
  • 三、利用Jsoup爬取某東示例
  • 四、Jsoup用法
  • 五、總結

一、Jsoup的簡介

jsoup 是一款 的HTML解析器,可直接解析某個URL地址、HTML文字內容。它提供了一套非常省力的API,EkOQzIp可通過DOM,以及類似於的操作方法來取出和操作資料

二、我們可以利用Jsoup做什麼

2.1從URL,檔案或字串中刮取並解析HTML查詢和提取資料,

2.2使用DOM遍歷或CSS選擇器操縱HTML元素,屬性和文字

2.3從而使我們輸出我們想要的整潔文字

三、利用Jsoup爬取某東示例

使用maven實現有關Jsoup簡單爬蟲的步驟

可以從圖中看到,成功爬取某東的女裝熱門銷量從高到低的標題,從而可以分析

到銷量高(或者是綜合排序)在前列的標題名稱。從而可以剖析出熱門商品的命名規範。

四、Jsoup用法

4.1先建立maven工程,在maven工程上注入依賴

使用maven實現有關Jsoup簡單爬蟲的步驟

4.2注入依賴後需要匯入依賴,否則在程式中使用Jsoup會全部報錯。

4.3利用JSP的知識找出目標元素

使用maven實現有關Jsoup簡單爬蟲的步驟

如在某東介面我們發現, 控制目標頁面的ID為"plist",則我們使用

getElementById("plist");方法去獲取到他的ID

接著獲取目標標題,可以由上圖分析得,標題是由<em>標籤所控制,因此我們需要用到

getElementsByTag("em");去捕捉到em的部分

最後迴圈輸出他的部分即可。

使用maven實現有關Jsoup簡單爬蟲的步驟

五、總結

Jsoup只能應用於簡單的頁面捕捉,在實際客棧開發中許多采用Ajax技術等使得模組在動態變化抑或是有反爬蟲技術,因此本技術有侷限性。熟悉前端jsp技術的同學應該會遊刃有餘。

最後附上所有程式碼

使用maven實現有關Jsoup簡單爬蟲的步驟

以上就是使用maven實現有關Jsoup簡單爬蟲的步驟的詳細內容,更多關於maven實現Jsoup爬蟲的資料請關注我們其它相關文章!