1. 程式人生 > >Python爬蟲入門——1.1爬蟲原理

Python爬蟲入門——1.1爬蟲原理

1,先介紹一下網路連線的基本原理: (  加亮字型摘自百度百科)

        網路連結,即根據統一資源定位符(URL,uniform resource location),運用超文字標記語言(HTML,hyper text markup language),將網站內部網頁之間、系統內部之間或不同系統之間的超文字和超媒體進行連結。通過此種連結技術,即可從一網站的網頁連線到另一網站的網頁,正是這樣一種技術,才得以使世界上數以億萬計的計算機密切聯絡到了一起,從而構成網路的堅實基礎。

網路連結是指從一個網頁指向一個目標的連線關係,這個目標可以是另一個網頁,也可以是相同網頁上的不同位置,還可以是一個圖片,一個電子郵件地址,一個檔案,甚至是一個應用程式。而在一個網頁中用來連結的物件,可以是一段文字或者是一個圖片。當瀏覽者單擊已經連結的文字或圖片後,連結目標將顯示在瀏覽器上,並且根據目標的型別來開啟或執行。它是一種允許我們同其他網頁或站點之間進行連線的元素,在本質上屬於一個網頁的一部分。各個網頁連結在一起後,才能真正構成一個網站。網際網路發展到今天,可以毫不誇張地說,沒有網路連結就沒有網際網路,沒有網路連結網際網路就沒有生命力,連結技術是網際網路的堅實基礎。

        簡單來說就是一一對應,你請求什麼,伺服器就會給你返回什麼。相當於,你去自動售貨機買東西,你只需要選擇你需要的商品,掃描付款碼之後,售貨機就會彈出相應的商品。你向伺服器請求(request)什麼,她們就會返回(response)什麼。

2.爬蟲原理

        爬蟲就是爬蟲程式模擬客戶端向伺服器傳送請求;接收伺服器返回的內容,進行解析、資料清洗、從而獲得需要的資訊。

網路就像一張巨大的蜘蛛網,爬蟲就像一隻蜘蛛,不停地在網上爬動,不斷拾取自己需要的東西,爬蟲的最終目的是對那些資料進行處理,例如你可以通過爬取淘寶商品銷售記錄,從而分析出,全國哪個省份女生的bra最大等問題。

3.爬蟲工具

        爬蟲一般需要安裝谷歌的Chrome瀏覽器,並且使用BeautifuldSoup、requests等第三方庫

相關推薦

Python 爬蟲入門筆記1(for myself)

一、requests入門 1. requests的基本內容 request()構造一個請求,支撐一下各個方法的基礎方法 requests.request(method,url,**kwargs) 七種方法 method: 請求方式 requests.request(‘GET’,u

python爬蟲入門學習1

1.概念 URL和URI的區別:           URL是統一資源定位符,表示資源的地址(我們說網站的網址就是URL),而URI是統一資源識別符號 ,即用字串來標識某一網際網路資源,因此,URI屬於父類,URL屬於子類 爬蟲:

Python爬蟲入門——3.1 多程序爬蟲

我們上次爬取了鬥破蒼穹全文小說,並儲存到本地TXT檔案,但是下載速度超級慢(不排除我這垃圾i5電腦的原因),我都玩了一盤王者榮耀,還沒有下載完成。j究其原因是我們只是應用了單程序爬取,所以爬取速度大打折扣。鑑於此我們本節介紹多程序爬蟲。 首先簡單介紹一下多程序。通常我們的計

Python爬蟲入門——2. 1 我的第一個爬蟲程式

         第一個爬蟲程式就寫的簡單一點,我們用requests庫以及BeautifulSoup庫來完成我們的第一個程式(我們所用的python版本為  3.x)。我們爬取豆瓣圖書(https://book.douban.com/top250?start=25)Top1

Python爬蟲入門1):綜述

大家好哈,最近博主在學習Python,學習期間也遇到一些問題,獲得了一些經驗,在此將自己的學習系統地整理下來,如果大家有興趣學習爬蟲的話,可以將這些文章作為參考,也歡迎大家一共分享學習經驗。 Python版本:2.7,Python 3請另尋其他博文。 首先爬蟲是什麼?

Python爬蟲入門1】: CentOS環境安裝

簡介 你好,當你開啟這個文件的時候,我知道,你想要的是什麼! Python爬蟲,如何快速的學會Python爬蟲,是你最期待的事情,

python爬蟲入門一:爬蟲基本原理

1. 什麼是爬蟲 爬蟲就是請求網站並提取資料的自動化程式   2. 爬蟲的基本流程 1)傳送請求 通過HTTP庫向目標站點發送請求,即傳送一個Request。 請求可以包含額外的headers等資訊,等待伺服器相應 2)獲取相應內容 伺服器接到請求後,會返回一個Response,Re

Python演算法入門——第1章 2,氣泡排序

上一篇文章已經說過,桶排序會極大地浪費資源,因此需要用一種更簡單的排序方式來完成:氣泡排序。其原理是1.從第一個數字開始,與第二個數進行比較,如果小於第二個數(按從大到小排序),則將其交換數值;2.接著,第二個數與第三個數比較,重複此步驟,直至完成與最後一個數的比較。這樣,第一個數就到了它應該呆的地

Python演算法入門——第11,桶排序

假如你有7個數需要排序,最大的數為100,那麼你就需要101個桶,桶的編號為0-100。你的數列中的數是多少,就往對應的桶裡面加一,最後按照順序列印桶的編號即可。但此排序方式浪費資源極大,資料量大的時候不建議使用,本文只是介紹最基本的演算法實現原理,作為入門使用。 class Solution(

Python BeautifulSoup 爬蟲入門筆記 --- 新聞爬蟲

    BeautifulSoup可以解析html檔案,配合request庫可以簡單快速地爬取一些網頁資訊。     BeautifulSoup 參考資料:     htt

Python演算法入門——第11,桶排序

假如你有7個數需要排序,最大的數為100,那麼你就需要101個桶,桶的編號為0-100。你的數列中的數是多少,就往對應的桶裡面加一,最後按照順序列印桶的編號即可。但此排序方式浪費資源極大,資料量大的時候不建議使用,本文只是介紹最基本的演算法實現原理,作為入門使用。 clas

Python爬蟲入門二之爬蟲基礎瞭解

1.什麼是爬蟲 爬蟲,即網路爬蟲,大家可以理解為在網路上爬行的一直蜘蛛,網際網路就比作一張大網,而爬蟲便是在這張網上爬來爬去的蜘蛛咯,如果它遇到資源,那麼它就會抓取下來。想抓取什麼?這個由你來控制它咯。 比如它在抓取一個網頁,在這個網中他發現了一條道路,其實就是指向網

Python爬蟲入門——1.1爬蟲原理

1,先介紹一下網路連線的基本原理: (  加亮字型摘自百度百科)         網路連結,即根據統一資源定位符(URL,uniform resource location),運用超文字標記語言(HTML,hyper text markup language),將網站內部網

Python爬蟲入門 | 1 Python環境的安裝

Python這是一個適用於小白的Python爬蟲免費教學課程,只有7節,讓零基礎的你初步了解爬蟲,跟著課程內容能自己爬取資源。看著文章,打開電腦動手實踐,平均45分鐘就能學完一節,如果你願意,今天內你就可以邁入爬蟲的大門啦~ 話不多說,正式開始我們的第一節課《Python環境的安裝》吧~ 啦啦啦開課啦,看黑板

python爬蟲入門1

1.概念 URL和URI的區別:           URL是統一資源定位符,表示資源的地址(我們說網站的網址就是URL),而URI是統一資源識別符號 ,即用字串來標識某一網際網路資源,因此,URI屬於父類,URL屬於子類 爬蟲:     爬蟲事實上就是一個程式,用於

Python爬蟲入門+進階)學習筆記 1-1 什麼是爬蟲

爬蟲的定義:網路爬蟲(又被稱為網頁蜘蛛,網路機器人,在FOAF社群中間,更經常的稱為網頁追逐者),是一種按照一定的規則,自動地抓取全球資訊網資訊的程式或者指令碼。網頁的兩種載入方法同步載入:改變網址上的某些引數會導致網頁發生改變,例如:www.itjuzi.com/compa

1python爬蟲入門,利用bs4以及requests獲取靜態網頁

注:本文僅適用於爬蟲初級入門者,並不涉及太多技術本質 感謝您閱讀此文。最近放假在家,閒時無聊,開始入門了python爬蟲,可以完成一些基本的資料爬取(對於一些反爬取例如JS渲染,介面加密等頁面仍然處於學習之中),本文就是簡單總結最近已熟練掌握的爬取靜態網頁的方法。 若是從未

Python爬蟲入門 | 1 Python環境的安裝

這是一個適用於小白的Python爬蟲免費教學課程,只有7節,讓零基礎的你初步瞭解爬蟲,跟著課程內容能自己爬取資源。看著文章,開啟電腦動手實踐,平均45分鐘就能學完一節,如果你願意,今天內你就可以邁入爬蟲的大門啦~ 話不多說,正式開始我們的第一節課《Python

012 Python 爬蟲項目1

python 爬蟲 tor url post strong port pytho .com http # Python 爬蟲項目1   ● Python 網頁請求     requests       POST       GET     網頁狀態碼 1 # -

Python爬蟲學習(1

數據 bin des fin load 寫入 all pytho urlopen 接觸python不久,也在慕課網學習了一些python相關基礎,對於爬蟲初步認為是依靠一系列正則獲取目標內容數據 於是參照著慕課網上的教學視頻,完成了我的第一個python爬蟲,雞凍 >