摘要:前言在環(huán)境下做些簡單的爬蟲時,需要用代理地址,如果訪問的目標站點是協(xié)議,用就會有些問題解決方法使用隧道代理用于的隧道代理具體參考安裝使用使用是對請求修復的一個分支版本安裝使用使用模塊個人感覺如果只是在服務(wù)端運行的
前言
在node環(huán)境下做些簡單的爬蟲時,需要用代理地址,如果訪問的目標站點
是https協(xié)議,用axios就會有些問題
1.使用tunnel隧道代理
node-tunnel - 用于HTTP/HTTPS的隧道代理
具體參考(tunnel)[https://www.npmjs.com/package...]
安裝
npm install tunnel
使用
const axios = require("axios") const tunnel = require("tunnel") const tunnelProxy = tunnel.httpsOverHttp({ proxy: { host: "you_host", port: "you_port", }, }); axios(url,{ proxy: false, httpsAgent: tunnelProxy, timeout: 10000 }) .then(res=>{ console.log(res.data) })
2.使用 axios-https-proxy-fix
axios-https-proxy-fix是對axioshttps請求bug修復的一個分支版本
安裝
npm i axios-https-proxy-fix
使用
const axios = require("axios-https-proxy-fix") axios(url,{ proxy: { host: "127.0.0.1", port: "1080" }, timeout: 10000 }) .then(res=>{ console.log(res.data) })
3.使用node request模塊
個人感覺如果只是在服務(wù)端運行的代碼,用這個最為穩(wěn)妥
安裝
npm i request
使用
const request = require("request") request({ url, timeout: 5000, proxy: "http://127.0.0.1:1080" },(error,response,body)=>{ if (error) { return console.log(error) } console.log(body) })
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址:http://www.ezyhdfw.cn/yun/106541.html
摘要:知乎日報代理首先感謝提供的分析使用詳情請參考他提供的參數(shù)和地址代理轉(zhuǎn)發(fā)的使用為前綴進入代理路由啟動界面圖像獲取后為圖像分辨率,接受任意的格式,為任意非負整數(shù),返回值均相同返回值示例最新消息等具體參考提供的分析中的使用方式以及參數(shù)含義。 項目說明 這是一個基于express的node后端API服務(wù),當時只是想抓取字幕組網(wǎng)站的下載資源,以備以后通過nas的方式去自動下載關(guān)注的美劇。不過后來...
摘要:同源策略所謂同源是指協(xié)議,域名,端口均相同。同源策略是瀏覽器的一個安全功能,不同源的客戶端腳本在沒有明確授權(quán)的情況下,不能讀寫對方資源。需注意的是由于同源策略的限制,所讀取的為跨域請求接口所在域的,而非當前頁。 一、什么是跨域 1.URL解析 URL (Uniform Resource Locator )統(tǒng)一資源定位符(URL)是用于完整地描述Internet上網(wǎng)頁和其他資源的地址的...
摘要:有兩種方法,一種是在開發(fā)環(huán)境中設(shè)置通過的,另一種是在服務(wù)器上修改的配置設(shè)置。這樣我們以后使用訪問接口就可以不加了,打包后訪問也不用手動去除統(tǒng)一管理在項目開發(fā)過程中,會涉及到很多接口的處理,當項目足夠大時,就需要統(tǒng)一管理接口。 這篇文章總結(jié)了vue項目的所遇到的問題,包括跨域、用戶認證、接口統(tǒng)一管理、路由配置、兼容性處理,性能優(yōu)化等內(nèi)容。 項目github地址 : 前端 https:...
摘要:使用模擬好后端數(shù)據(jù)之后模擬數(shù)據(jù)的使用參考,就需要嘗試請求加載數(shù)據(jù)了。數(shù)據(jù)請求選擇了,現(xiàn)在都推薦使用。規(guī)定要發(fā)送到服務(wù)器的數(shù)據(jù)。布爾值,表示請求是否異步處理。要求為類型的參數(shù),請求成功后調(diào)用的回調(diào)函數(shù)。在一個中重寫回調(diào)函數(shù)的字符串。 使用Mock模擬好后端數(shù)據(jù)之后(Mock模擬數(shù)據(jù)的使用參考:https://segmentfault.com/a/11...),就需要嘗試請求加載數(shù)據(jù)了。數(shù)...
閱讀 3489·2022-01-04 14:20
閱讀 3171·2021-09-22 15:08
閱讀 2273·2021-09-03 10:44
閱讀 2365·2019-08-30 15:44
閱讀 1559·2019-08-29 18:40
閱讀 2727·2019-08-29 17:09
閱讀 3057·2019-08-26 13:53
閱讀 3275·2019-08-26 13:37