1. 程式人生 > >每天一個linux命令2---curl命令

每天一個linux命令2---curl命令

常用引數詳解

引數 描述
-I/--head 只顯示傳輸文件,經常用於測試連線本身
-o/--output 把輸出寫到該檔案中,必須輸入儲存檔名
-O/--remote-name 把輸出寫到該檔案中,保留遠端檔案的檔名
-F/--form 模擬表單提交
-s/--silent 靜默模式,不輸出任何東西
-S/--show-error 顯示錯誤,在選項 -s 中,當 curl 出現錯誤時將顯示
-L/--location 跟蹤重定向
-f/--fail 不輸出錯誤
-n/--netrc 從netrc檔案中讀取使用者名稱和密碼
--netrc-optional 使用 .netrc 或者 URL來覆蓋-n
--ntlm 使用 HTTP NTLM 身份驗證
-N/--no-buffer 禁用緩衝輸出
-p/--proxytunnel 使用HTTP代理
--proxy-anyauth 選擇任一代理身份驗證方法
--proxy-basic 在代理上使用基本身份驗證
--proxy-digest 在代理上使用數字身份驗證
--proxy-ntlm 在代理上使用ntlm身份驗證
-P/--ftp-port 使用埠地址,而不是使用PASV
-M/--manual 顯示全手動
-Q/--quote 檔案傳輸前,傳送命令到伺服器
-r/--range 檢索來自HTTP/1.1或FTP伺服器位元組範圍
--range-file 讀取(SSL)的隨機檔案
-R/--remote-time 在本地生成檔案時,保留遠端檔案時間
--retry 傳輸出現問題時,重試的次數
--retry-delay 傳輸出現問題時,設定重試間隔時間
--retry-max-time 傳輸出現問題時,設定最大重試時間
--socks4 用socks4代理給定主機和埠
--socks5 用socks5代理給定主機和埠
-t/--telnet-option Telnet選項設定
--trace 對指定檔案進行debug
--trace-ascii Like 跟蹤但沒有hex輸出
--trace-time 跟蹤/ 詳細輸出時,新增時間戳
-T/--upload-file 上傳檔案
-u/--user 設定伺服器的使用者和密碼
-U/--proxy-user 設定代理使用者名稱和密碼
-V/--version 顯示版本資訊
-w/--write-out [format] 什麼輸出完成後
-x/--proxy 在給定的埠上使用HTTP代理
-X/--request 指定什麼命令
-y/--speed-time 放棄限速所要的時間。預設為30
-Y/--speed-limit 停止傳輸速度的限制,速度時間'秒
-z/--time-cond 傳送時間設定
-0/--http1.0 使用HTTP 1.0
-1/--tlsv1 使用TLSv1(SSL)
-2/--sslv2 使用SSLv2的(SSL)
-3/--sslv3 使用的SSLv3(SSL)
--3p-quote like -Q for the source URL for 3rd party transfer
--3p-url 使用url,進行第三方傳送
--3p-user 使用使用者名稱和密碼,進行第三方傳送
-4/--ipv4 使用IP4
-6/--ipv6 使用IP6
-#/--progress-bar 用進度條顯示當前的傳送狀態

常用curl例項

抓取頁面內容到一個檔案中

curl -o home.html  http://www.sina.com.cn

-O(大寫的),後面的url要具體到某個檔案,不然抓不下來。我們還可以用正則來抓取東西

curl -O http://www.mydomain.com/linux/index.html

模擬表單資訊,模擬登入,儲存cookie資訊

curl -c ./cookie_c.txt -F log=aaaa -F pwd=****** http://blog.mydomain.com/login.php

模擬表單資訊,模擬登入,儲存頭資訊

curl -D ./cookie_D.txt -F log=aaaa -F pwd=****** http://blog.mydomain.com/login.php

-c(小寫)產生的cookie和-D裡面的cookie是不一樣的

使用cookie檔案

curl -b ./cookie_c.txt  http://blog.mydomain.com/wp-admin

斷點續傳,-C(大寫的)

curl -C -O http://www.sina.com.cn

傳送資料

最好用登入頁面測試,因為你傳值過去後,回抓資料,你可以看到你傳值有沒有成功

curl -d log=aaaa  http://blog.mydomain.com/login.php

顯示抓取錯誤 -f

curl -f http://www.sina.com.cn/asdf
curl: (22) The requested URL returned error: 404
curl http://www.sina.com.cn/asdf

偽造來源地址,有的網站會判斷,請求來源地址-e

curl -e http://localhost http://www.sina.com.cn

當我們經常用curl去搞人家東西的時候,人家會把你的IP給遮蔽掉的,這個時候,我們可以用代理

curl -x 10.10.90.83:80 -o home.html http://www.sina.com.cn

比較大的東西,我們可以分段下載

curl -r 0-100 -o img.part1 http://mydomian.cn/thumb/xxx.jpg
  % Total    % Received % Xferd  Average Speed  Time    Time    Time  Current
                                Dload  Upload  Total  Spent    Left  Speed
100  101  100  101    0    0  1926      0 --:--:-- --:--:-- --:--:--    0
curl -r 100-200 -o img.part2 http://mydomian.cn/thumb/xxx.jpg
  % Total    % Received % Xferd  Average Speed  Time    Time    Time  Current
                                Dload  Upload  Total  Spent    Left  Speed
100  101  100  101    0    0  3498      0 --:--:-- --:--:-- --:--:--  98k
curl -r 200- -o img.part3 http://mydomian.cn/thumb/xxx.jpg
  % Total    % Received % Xferd  Average Speed  Time    Time    Time  Current
                                Dload  Upload  Total  Spent    Left  Speed
100 13515  100 13515    0    0  154k      0 --:--:-- --:--:-- --:--:--  280k
ll |grep img.part

用的時候,把他們cat一下就OK了,cat img.part* >img.jpg

不顯示下載進度資訊 -s

curl -s -o aaa.jpg

顯示下載進度條 -#

curl -# -O  http://www.mydomain.com/linux/25002_3.html
######################################################################## 100.0%

通過ftp下載檔案

curl -u 使用者名稱:密碼 -O http://blog.mydomain.com/demo/curtain/bbstudy_files/style.css
% Total    % Received % Xferd  Average Speed  Time    Time    Time  Current
Dload  Upload  Total  Spent    Left  Speed
101  1934  101  1934    0    0  3184      0 --:--:-- --:--:-- --:--:--  7136
或者用下面的方式
curl -O ftp://xukai:[email protected]:21/www/focus/enhouse/index.php
  % Total    % Received % Xferd  Average Speed  Time    Time    Time  Current
                                Dload  Upload  Total  Spent    Left  Speed
100 87518  100 87518    0    0  2312k      0 --:--:-- --:--:-- --:--:-- 11.5M

通過ftp上傳

curl -T xukai.php ftp://xukai:[email protected]:21/www/focus/enhouse/
  % Total    % Received % Xferd  Average Speed  Time    Time    Time  Current
                                Dload  Upload  Total  Spent    Left  Speed
100 87518    0    0  100 87518      0  2040k --:--:-- --:--:-- --:--:-- 8901k

用法收集

快速用法(配合sed/awk/grep)

$curl http: //mydomain.net

下載儲存

$curl http://mydomain.net > index.html
$curl -o index.html http://mydomain.net
$curl -O http://mydomain.net/target.tar.gz

GET

$curl http://www.yahoo.com/login.cgi?user=nickname&password=12345

POST

$curl -d "user=nickname&password=12345" http://www.yahoo.com/login.cgi

POST 檔案

$curl -F upload= $localfile  -F $btn_name=$btn_value http://mydomain.net/~zzh/up_file.cgi

通過代理

$curl -x 123.45.67.89:1080 -o page.html http://mydomain.net

儲存cookie

$curl -x 123.45.67.89:1080 -o page1.html -D cookie0001.txt http://mydomain.net

使用cookie

$curl -x 123.45.67.89:1080 -o page1.html -D cookie0002.txt -b cookie0001.txt http://mydomain.net

模仿瀏覽器

$curl -A "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.0)" -x123.45.67.89:1080 -o page.html -D cookie0001.txt http://mydomain.net

偽造referer

$curl -A "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.0)" -x123.45.67.89:1080 -e"mail.yahoo.com" -o page.html -D cookie0001.txt http://mydomain.net

高階下載功能

迴圈下載

$curl -O http://mydomain.net/~zzh/screen[1-10].JPG

迴圈(匹配)下載

$curl -O http://mydomain.net/~{zzh,nick}/[001-201].JPG  # >like zzh/001.JPG

迴圈(引用)下載

$curl -o #2_#1.jpg http://mydomain.net/~{zzh,nick}/[001-201].JPG # like >001_zzh.jpg

斷點續傳

$curl -c -O http://mydomain.net/~zzh/screen1.JPG

分塊下載

$curl -r  0 -10240  -o "zhao.part1"  http://mydomain.net/~zzh/zhao1.mp3 &\
$curl -r 10241 -20480  -o "zhao.part1"  http://mydomain.net/~zzh/zhao1.mp3 &\
$curl -r 20481 -40960  -o "zhao.part1"  http://mydomain.net/~zzh/zhao1.mp3 &\
$curl -r 40961 - -o  "zhao.part1"  http://mydomain.net/~zzh/zhao1.mp3
...
$cat zhao.part* > zhao.mp3

curl語法及選項

curl(7.29.0)所支援的選項(options)引數如下

在以下選項中,(H) 表示僅適用 HTTP/HTTPS ,(F) 表示僅適用於 FTP
    --anyauth       選擇 "any" 認證方法 (H)
-a, --append        新增要上傳的檔案 (F/SFTP)
    --basic         使用HTTP基礎認證(Basic Authentication)(H)
    --cacert FILE   CA 證書,用於每次請求認證 (SSL)
    --capath DIR    CA 證書目錄 (SSL)
-E, --cert CERT[:PASSWD] 客戶端證書檔案及密碼 (SSL)
    --cert-type TYPE 證書檔案型別 (DER/PEM/ENG) (SSL)
    --ciphers LIST  SSL 祕鑰 (SSL)
    --compressed    請求壓縮 (使用 deflate 或 gzip)
-K, --config FILE   指定配置檔案
    --connect-timeout SECONDS  連線超時設定
-C, --continue-at OFFSET  斷點續轉
-b, --cookie STRING/FILE  Cookies字串或讀取Cookies的檔案位置 (H)
-c, --cookie-jar FILE  操作結束後,要寫入 Cookies 的檔案位置 (H)
    --create-dirs   建立必要的本地目錄層次結構
    --crlf          在上傳時將 LF 轉寫為 CRLF
    --crlfile FILE  從指定的檔案獲得PEM格式CRL列表
-d, --data DATA     HTTP POST 資料 (H)
    --data-ascii DATA  ASCII 編碼 HTTP POST 資料 (H)
    --data-binary DATA  binary 編碼 HTTP POST 資料 (H)
    --data-urlencode DATA  url 編碼 HTTP POST 資料 (H)
    --delegation STRING GSS-API 委託許可權
    --digest        使用數字身份驗證 (H)
    --disable-eprt  禁止使用 EPRT 或 LPRT (F)
    --disable-epsv  禁止使用 EPSV (F)
-D, --dump-header FILE  將頭資訊寫入指定的檔案
    --egd-file FILE  為隨機資料設定EGD socket路徑(SSL)
    --engine ENGINGE  加密引擎 (SSL). "--engine list" 指定列表
-f, --fail          連線失敗時不顯示HTTP錯誤資訊 (H)
-F, --form CONTENT  模擬 HTTP 表單資料提交(multipart POST) (H)
    --form-string STRING  模擬 HTTP 表單資料提交 (H)
    --ftp-account DATA  帳戶資料提交 (F)
    --ftp-alternative-to-user COMMAND  指定替換 "USER [name]" 的字串 (F)
    --ftp-create-dirs  如果不存在則建立遠端目錄 (F)
    --ftp-method [MULTICWD/NOCWD/SINGLECWD] 控制 CWD (F)
    --ftp-pasv      使用 PASV/EPSV 替換 PORT (F)
-P, --ftp-port ADR  使用指定 PORT 及地址替換 PASV (F)
    --ftp-skip-pasv-ip 跳過 PASV 的IP地址 (F)
    --ftp-pret      在 PASV 之前傳送 PRET (drftpd) (F)
    --ftp-ssl-ccc   在認證之後傳送 CCC (F)
    --ftp-ssl-ccc-mode ACTIVE/PASSIVE  設定 CCC 模式 (F)
    --ftp-ssl-control ftp 登入時需要 SSL/TLS (F)
-G, --get           使用 HTTP GET 方法傳送 -d 資料  (H)
-g, --globoff       禁用的 URL 佇列 及範圍使用 {} 和 []
-H, --header LINE   要傳送到服務端的自定義請求頭 (H)
-I, --head          僅顯示響應文件頭
-h, --help          顯示幫助
-0, --http1.0       使用 HTTP 1.0 (H)
    --ignore-content-length  忽略 HTTP Content-Length 頭
-i, --include       在輸出中包含協議頭 (H/F)
-k, --insecure      允許連線到 SSL 站點,而不使用證書 (H)
    --interface INTERFACE  指定網路介面/地址
-4, --ipv4          將域名解析為 IPv4 地址
-6, --ipv6          將域名解析為 IPv6 地址
-j, --junk-session-cookies 讀取檔案中但忽略會話cookie (H)
    --keepalive-time SECONDS  keepalive 包間隔
    --key KEY       私鑰檔名 (SSL/SSH)
    --key-type TYPE 私鑰檔案型別 (DER/PEM/ENG) (SSL)
    --krb LEVEL     啟用指定安全級別的 Kerberos (F)
    --libcurl FILE  命令的libcurl等價程式碼
    --limit-rate RATE  限制傳輸速度
-l, --list-only    只列出FTP目錄的名稱 (F)
    --local-port RANGE  強制使用的本地埠號
-L, --location      跟蹤重定向 (H)
    --location-trusted 類似 --location 併發送驗證資訊到其它主機 (H)
-M, --manual        顯示全手動
    --mail-from FROM  從這個地址傳送郵件
    --mail-rcpt TO  傳送郵件到這個接收人(s)
    --mail-auth AUTH  原始電子郵件的起始地址
    --max-filesize BYTES  下載的最大檔案大小 (H/F)
    --max-redirs NUM  最大重定向數 (H)
-m, --max-time SECONDS  允許的最多傳輸時間
    --metalink      處理指定的URL上的XML檔案
    --negotiate     使用 HTTP Negotiate 認證 (H)
-n, --netrc         必須從 .netrc 檔案讀取使用者名稱和密碼
    --netrc-optional 使用 .netrc 或 URL; 將重寫 -n 引數
    --netrc-file FILE  設定要使用的 netrc 檔名
-N, --no-buffer     禁用輸出流的快取
    --no-keepalive  禁用 connection 的 keepalive
    --no-sessionid  禁止重複使用 SSL session-ID (SSL)
    --noproxy       不使用代理的主機列表
    --ntlm          使用 HTTP NTLM 認證 (H)
-o, --output FILE   將輸出寫入檔案,而非 stdout
    --pass PASS     傳遞給私鑰的短語 (SSL/SSH)
    --post301       在 301 重定向後不要切換為 GET 請求 (H)
    --post302       在 302 重定向後不要切換為 GET 請求 (H)
    --post303       在 303 重定向後不要切換為 GET 請求 (H)
-#, --progress-bar  以進度條顯示傳輸進度
    --proto PROTOCOLS  啟用/禁用 指定的協議
    --proto-redir PROTOCOLS  在重定向上 啟用/禁用 指定的協議
-x, --proxy [PROTOCOL://]HOST[:PORT] 在指定的埠上使用代理
    --proxy-anyauth 在代理上使用 "any" 認證方法 (H)
    --proxy-basic   在代理上使用 Basic 認證  (H)
    --proxy-digest  在代理上使用 Digest 認證 (H)
    --proxy-negotiate 在代理上使用 Negotiate 認證 (H)
    --proxy-ntlm    在代理上使用 NTLM 認證 (H)
-U, --proxy-user USER[:PASSWORD]  代理使用者名稱及密碼
     --proxy1.0 HOST[:PORT]  在指定的埠上使用 HTTP/1.0 代理
-p, --proxytunnel   使用HTTP代理 (用於 CONNECT)
    --pubkey KEY    公鑰檔名 (SSH)
-Q, --quote CMD     在傳輸開始前向伺服器傳送命令 (F/SFTP)
    --random-file FILE  讀取隨機資料的檔案 (SSL)
-r, --range RANGE   僅檢索範圍內的位元組
    --raw           使用原始HTTP傳輸,而不使用編碼 (H)
-e, --referer       Referer URL (H)
-J, --remote-header-name 從遠端檔案讀取頭資訊 (H)
-O, --remote-name   將輸出寫入遠端檔案
    --remote-name-all 使用所有URL的遠端檔名
-R, --remote-time   將遠端檔案的時間設定在本地輸出上
-X, --request COMMAND  使用指定的請求命令
    --resolve HOST:PORT:ADDRESS  將 HOST:PORT 強制解析到 ADDRESS
    --retry NUM   出現問題時的重試次數
    --retry-delay SECONDS 重試時的延時時長
    --retry-max-time SECONDS  僅在指定時間段內重試
-S, --show-error    顯示錯誤. 在選項 -s 中,當 curl 出現錯誤時將顯示
-s, --silent        Silent模式。不輸出任務內容
    --socks4 HOST[:PORT]  在指定的 host + port 上使用 SOCKS4 代理
    --socks4a HOST[:PORT]  在指定的 host + port 上使用 SOCKSa 代理
    --socks5 HOST[:PORT]  在指定的 host + port 上使用 SOCKS5 代理
    --socks5-hostname HOST[:PORT] SOCKS5 代理,指定使用者名稱、密碼
    --socks5-gssapi-service NAME  為gssapi使用SOCKS5代理服務名稱
    --socks5-gssapi-nec  與NEC Socks5伺服器相容
-Y, --speed-limit RATE  在指定限速時間之後停止傳輸
-y, --speed-time SECONDS  指定時間之後觸發限速. 預設 30
    --ssl           嘗試 SSL/TLS (FTP, IMAP, POP3, SMTP)
    --ssl-reqd      需要 SSL/TLS (FTP, IMAP, POP3, SMTP)
-2, --sslv2         使用 SSLv2 (SSL)
-3, --sslv3         使用 SSLv3 (SSL)
    --ssl-allow-beast 允許的安全漏洞,提高互操作性(SSL)
    --stderr FILE   重定向 stderr 的檔案位置. - means stdout
    --tcp-nodelay   使用 TCP_NODELAY 選項
-t, --telnet-option OPT=VAL  設定 telnet 選項
     --tftp-blksize VALUE  裝置 TFTP BLKSIZE 選項 (必須 >512)
-z, --time-cond TIME  基於時間條件的傳輸
-1, --tlsv1         使用 => TLSv1 (SSL)
    --tlsv1.0       使用 TLSv1.0 (SSL)
    --tlsv1.1       使用 TLSv1.1 (SSL)
    --tlsv1.2       使用 TLSv1.2 (SSL)
    --trace FILE    將 debug 資訊寫入指定的檔案
    --trace-ascii FILE  類似 --trace 但使用16進度輸出
    --trace-time    向 trace/verbose 輸出新增時間戳
    --tr-encoding   請求壓縮傳輸編碼 (H)
-T, --upload-file FILE  將檔案傳輸(上傳)到指定位置
    --url URL       指定所使用的 URL
-B, --use-ascii     使用 ASCII/text 傳輸
-u, --user USER[:PASSWORD]  指定伺服器認證使用者名稱、密碼
    --tlsuser USER  TLS 使用者名稱
    --tlspassword STRING TLS 密碼
    --tlsauthtype STRING  TLS 認證型別 (預設 SRP)
    --unix-socket FILE    通過這個 UNIX socket 域連線
-A, --user-agent STRING  要傳送到伺服器的 User-Agent (H)
-v, --verbose       顯示詳細操作資訊
-V, --version       顯示版本號並退出
-w, --write-out FORMAT  完成後輸出什麼
    --xattr        將元資料儲存在擴充套件檔案屬性中
-q                 .curlrc 如果作為第一個引數無效



作者:木貓尾巴
連結:https://www.jianshu.com/p/07c4dddae43a
來源:簡書
簡書著作權歸作者所有,任何形式的轉載都請聯絡作者獲得授權並註明出處。