您的位置:首页 >新闻资讯 > 正文

php如何获取http代理服务器?

来源:互联网 作者:admin 时间:2019-08-05 11:18:30

  php如何获取http代理服务器?有一些网站不喜欢被爬虫程序访问,所以会检测连接对象,如果是爬虫程序,也就是非人点击访问,它就会不让你继http代理服务器续访问,所以为了要让程序可以正常运行,需要隐藏自己的爬虫程序的身份。此时,我们就可以通过设置UserAgent的来达到隐藏身份的目的,UserAgent的中文名为用户代理,简称UA。UA存放于Headers中,服务器就是通过查看Headers中的UserAgent来判断是谁在访问。在python中,如果不设置UserAgent,程序将使用默认的参数,那么这个UserAgent就会有Python的字样,如果服务器检查UserAgent,那么没有设置UserAgent的Python程序将无法正常访问网站。


php如何获取http代理服务器?


  UserAgent已经设置好了,但是还应该考虑一个问题,程序的运行速度是很快的,如果我们利用一个爬虫程序在网站爬取东西,一个固定IP的访问频率就会很高,这不符合人为操作的标准,因为人操作不可能在国外代理服务器几ms内,进行如此频繁的访问。所以一些网站会设置一个IP访问频率的阈值,如果一个IP访问频率超过这个阈值,说明这个不是人在访问,而是一个爬虫程序。


  一个很简单的解决办法就是设置延时,但是这显然不符合爬虫快速爬取信息的目的,所以另一种更好的方法就是使用IP代理。使用代理的步骤:


  (1)调用urlib.request.ProxyHandler(),proxies参数为一个字典。


  (2)创建Opener(类似于urlopen,这个代开方式是我们自己定制的)


  (3)安装Opener


  使用install_opener方法之后,会将程序默认的urlopen方法替换掉。也就是说,如果使用install_opener之后,在该文件中,再次调用urlopen会使用自己创建好的opener国内IP代理。如果不想替换掉,只是想临时使用一下,可以使用opener.open(url),这样就不会对程序默认的urlopen有影响。


  网络上有很多编程语言,今天要说的是curl代理ip,那么问题来了,首先什么是curl呢curl是利用URL语法在命令行方式下工作的开源文件传输工具。它被广泛应用在Unix、多种Linux发行版中,并且有DOS和Win32、Win64下的移植版本。


  PHP,超文本预处理器,是一种通用开源脚本语言,主要适用于Web开发领域。PHP独特的语法混合了C、Java、Perl以及PHP自创的语法。它可以比CGI或者Perl更快速地执行动态网页。用PHP做出的动态页面与其他的编程语言相比,PHP是将程序嵌入到HTML(标准通用标记语言下的一个应用)文档中去执行,执行效率比完全生成HTML标记的CGI要高许多;PHP还可以执行编译后代码,编译可以达到加密和优化代码运行,使代码运行更快。


  那么PHP如何获取代理IP呢


  代理服务器分为透明代理ip和匿名代理ip,透明代理ip会将客户端的请求IP包含在HTTP头中,具体就是$_SERVER['HTTP_X_FORWARDED_FOR']中匿名代理ip将客户端的IP隐藏起来,IP信息只能在$_SERVER['REMOTE_ADDR']找。


  一、没有使用http代理服务器的情况:


  REMOTE_ADDR=您的IP


  HTTP_VIA=没数值或不显示


  HTTP_X_FORWARDED_FOR=没数值或不显示


  二、使用http代理服务器的情况:TransparentProxies


  REMOTE_ADDR=最后一个http代理服务器


  HTTP_VIA=http代理服务器


  HTTP_X_FORWARDED_FOR=您的真实IP,经过多个http代理服务器时,这个值类似如下:203.98.182.163,203.98.182.163,203.129.72.215。


  这类http代理服务器还是将您的信息转发给您的访问对象,无法达到隐藏真实身份的目的。


  三、使用高匿名http代理服务器的情况:HighAnonymityProxies(Eliteproxies)


  REMOTE_ADDR=http代理服务器


  HTTP_VIA=没数值或不显示


  HTTP_X_FORWARDED_FOR=没数值或不显示,经过多个http代理服务器时,这个值类似如下:203.98.182.163,203.98.182.163,203.129.72.215。


相关文章内容简介