博客
关于我
Python爬虫IP代理教程,让你不再为IP被封禁发愁!
阅读量:645 次
发布时间:2019-03-15

本文共 1053 字,大约阅读时间需要 3 分钟。

文章目录

本文来源没啥特别,因为没使用ip代理导致爬取boos直聘数据时,ip被封了,不过好在已解决,想看看博主的爬虫文章的可以点击下方链接,还是蛮全的。

一、免费代理ip地址推荐

芝麻代理需要注册,但注册后每天可以领取代理,还是很不错的

站大爷和快代理都有免费的开放代理
快代理也可以注册账号,在免费代理页面通过人工客服也可以领取试用独有IP

二、reuqests的ip代理

文章使用 http://httpbin.org/ip 这个测试 HTTP 请求及响应的网站

没使用ip代理之前

import requestsresponse = requests.get("http://httpbin.org/ip")print(response.text)

在这里插入图片描述

使用ip代理之后

import requestsproxy = {       'http': '171.35.171.247:9999'}response = requests.get("http://httpbin.org/ip",proxies=proxy)print(response.text)

可以看见返回的ip和代理的ip一样

在这里插入图片描述

三、selenium的ip代理

没使用代理之前

from selenium import webdriverdriver = webdriver.Chrome()driver.get("http://httpbin.org/ip")

在这里插入图片描述

使用代理之后

from selenium import webdriveroptions = webdriver.ChromeOptions()#添加IP代理options.add_argument("--proxy-server=http://183.166.149.193:20005")driver = webdriver.Chrome(chrome_options=options)driver.get("http://httpbin.org/ip")

在这里插入图片描述

四、ip代理大坑(重点)

ip代理有http和https的区别,但很多小伙伴不清楚到底有什么区别,经过博主踩坑后终于搞懂了,在线分享给大家

1.

在这里插入图片描述
在这里插入图片描述

2.

在这里插入图片描述

在这里插入图片描述

结论:如果请求的ip是https类型的,但代理的ip是只支持http的,那么还是使用本机的ip,

如果请求的ip是http类型的,那么代理的ip一定要是http的,前面不能写成https。

尾声

觉得博主写的不错的读者大大们,可以点赞关注和收藏哦,谢谢各位!

在这里插入图片描述

转载地址:http://tdolz.baihongyu.com/

你可能感兴趣的文章
Node+Express连接mysql实现增删改查
查看>>
node, nvm, npm,pnpm,以前简单的前端环境为什么越来越复杂
查看>>
Node-RED中Button按钮组件和TextInput文字输入组件的使用
查看>>
vue3+Ts 项目打包时报错 ‘reactive‘is declared but its value is never read.及解决方法
查看>>
Node-RED中Switch开关和Dropdown选择组件的使用
查看>>
Node-RED中使用html节点爬取HTML网页资料之爬取Node-RED的最新版本
查看>>
Node-RED中使用JSON数据建立web网站
查看>>
Node-RED中使用json节点解析JSON数据
查看>>
Node-RED中使用node-random节点来实现随机数在折线图中显示
查看>>
Node-RED中使用node-red-browser-utils节点实现选择Windows操作系统中的文件并实现图片预览
查看>>
Node-RED中使用node-red-contrib-image-output节点实现图片预览
查看>>
Node-RED中使用node-red-node-ui-iframe节点实现内嵌iframe访问其他网站的效果
查看>>
Node-RED中使用Notification元件显示警告讯息框(温度过高提示)
查看>>
Node-RED中使用range范围节点实现从一个范围对应至另一个范围
查看>>
Node-RED中实现HTML表单提交和获取提交的内容
查看>>
Node-RED中将CSV数据写入txt文件并从文件中读取解析数据
查看>>
Node-RED中建立TCP服务端和客户端
查看>>
Node-RED中建立Websocket客户端连接
查看>>
Node-RED中建立静态网页和动态网页内容
查看>>
Vue3+Element-ul学生管理系统(第二十二课)
查看>>