在python2中，主要使用urllib和urllib2，而python3对urllib和urllib2进行了重构，拆分成了urllib.request, urllib.parse, urllib.error，urllib.robotparser等几个子模块，这样的架构从逻辑和结构上说更加合理。urllib库无需安装，python3自带。python 3.x中将urllib库和urilib2库合并成了urllib库。
urllib2.urlopen() 变成了 urllib.request.urlopen()
urllib2.Request() 变成了 urllib.request.Request()
python2中的 cookielib 改为 http.cookiejar.
import http.cookiejar 代替 import cookielib
urljoin 现在对应的函数是 urllib.parse.urljoin
urlopen方法最主要的参数就是目标网站的url地址，可以使str类型，也可以是一个request对象。
get方法请求如下：
from urllib import request,parse respones = request.urlopen(http://www.baidu.com/)
post方法请求，需要添加data参数（字典格式），它要是字节流编码格式的内容，即 bytes 类型，通过 bytes() 方法可以进行转化，另外如果传递了这个 data 参数，不添加data参数就默认为 GET 方式请求。
from urllib import request,parse
url = "http://www.baidu.com/"
wd = {'wd':'哇哈哈哈'}
data = bytes(parse.urlencode(wd),'utf-8')
respones = request.urlopen(url,data=data)
由于单独使用urlopen() 方法的不能添加User-Agent、Cookie等headers信息，需要构建一个 Request 类型的对象，通过构造这个这个数据结构，一方面我们可以将请求独立成一个对象，另一方面可配置参数更加丰富和灵活。主要参数有：
import randomUA_LIST = [ 'Mozilla/5.0 (compatible; U; ABrowse 0.6; Syllable) AppleWebKit/420+ (KHTML, like Gecko)', 'Mozilla/5.0 (compatible; MSIE 8.0; Windows NT 6.0; Trident/4.0; Acoo Browser 1.98.744; .NET CLR 3.5.30729)', 'Mozilla/5.0 (compatible; MSIE 8.0; Windows NT 6.0; Trident/4.0; Acoo Browser 1.98.744; .NET CLR 3.5.30729)', 'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.0; Trident/4.0; Acoo Browser; GTB5; Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1) ; InfoPath.1; .NET CLR 3.5.30729; .NET CLR 3.0.30618)', 'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 5.1; Trident/4.0; SV1; Acoo Browser; .NET CLR 2.0.50727; .NET CLR 3.0.4506.2152; .NET CLR 3.5.30729; Avant Browser)', 'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0; Acoo Browser; SLCC1; .NET CLR 2.0.50727; Media Center PC 5.0; .NET CLR 3.0.04506)', 'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0; Acoo Browser; GTB5; Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1) ; Maxthon; InfoPath.1; .NET CLR 3.5.30729; .NET CLR 3.0.30618)', 'Mozilla/4.0 (compatible; Mozilla/5.0 (compatible; MSIE 8.0; Windows NT 6.0; Trident/4.0; Acoo Browser 1.98.744; .NET CLR 3.5.30729); Windows NT 5.1; Trident/4.0)', 'Mozilla/4.0 (compatible; Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 5.1; Trident/4.0; GTB6; Acoo Browser; .NET CLR 1.1.4322; .NET CLR 2.0.50727); Windows NT 5.1; Trident/4.0; Maxthon; .NET CLR 2.0.50727; .NET CLR 1.1.4322; InfoPath.2)', 'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.0; Trident/4.0; Acoo Browser; GTB6; Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1) ; InfoPath.1; .NET CLR 3.5.30729; .NET CLR 3.0.30618)' ] #随机获取一个user-agent user_agent = random.choice(UA_LIST)
url='http://www.baidu.com/'user_agent = random.choice(UA_LIST)
headers = {
'User-Agent': user_agent
}
req = request.Request(url=url,headers=headers)
respones = request.urlopen(req)
url='http://www.baidu.com'
headers = {
'User-Agent': user_agent
}
#添加user-agent的方法2
req = request.Request(url)
#请求添加user-agent
req.add_header("User-Agent",user_agent)
#获取请求的user-agent agent的a要小写
print(req.get_header("User-agent"))
response = request.urlopen(req)print(respones.read().decode('utf-8'))
在urllib.request模块里的BaseHandler类，他是所有其他Handler的父类，他是一个处理器，比如用它来处理登录验证，处理cookies，代理设置，重定向等。它提供了直接使用和派生类使用的方法：
HTTPDefaultErrorHandler：用来处理http响应错误，错误会抛出HTTPError类的异常
HTTPRedirectHandler：用于处理重定向
HTTPCookieProcessor：用于处理cookies
ProxyHandler：用于设置代理，默认代理为空
HTTPPasswordMgr：永远管理密码，它维护用户名和密码表
HTTPBasicAuthHandler：用户管理认证，如果一个链接打开时需要认证，可以使用它来实现验证功能
如果爬虫需要大量爬取网站数据，为了避免被封号，需要使用代理，通过request.build_opener()方法生成一个opener对象，添加代理的方法如下：
from urllib import request
#代理开关，表示是否开启代理
proxyswitch =True
#构建一个handler处理器对象，参数是一个字典类型，包括代理类型和代理服务器IP+PORT
proxyhandler = request.ProxyHandler({"http":"191.96.42.80:3128"})
#如果是带用户名和密码的代理，格式为{"http":"username:passwd@191.96.42.80:3128"}
#不加代理的handler处理器对象
nullproxyhandler = request.ProxyHandler()
if proxyswitch:
opener = request.build_opener(proxyhandler)
else:
opener = request.build_opener(nullproxyhandler)
req = request.Request("http://www.baidu.com/")
response = opener.open(req)
print(response.read().decode("utf-8"))
通过密码管理器的方法实现代理服务器功能
from urllib import request
#代理密码管理，也可以管理服务器账户密码
#账户密码
user = "username"
passwd = "passwd"
#代理服务器
proxyserver = "1.1.1.1:9999"
#构建密码管理对象，保存需要处理的用户名和密码
passmgr = request.HTTPPasswordMgrWithDefaultRealm()
#添加账户信息，第一个参数realm是与远程服务器相关的域信息
passmgr.add_password(None,proxyserver,user,passwd)
#构建基础ProxyBasicAuthHandler处理器对象
proxyauth_handler = request.ProxyBasicAuthHandler(passmgr)
opener = request.build_opener(proxyauth_handler)
req = request.Request("http://www.baidu.com/")
response = opener.open(req)
通过密码管理器的方法实现web认证登陆功能
#web验证
from urllib import request
test = "test"
passwd = "123456"
webserver = "1.1.1.1"
#构建密码管理器handler
passwdmgr = request.HTTPPasswordMgrWithDefaultRealm()
#添加密码信息
passwdmgr.add_password(None,webserver,test,passwd)
#HTTP基础验证处理器类
http_authhandler = request.HTTPBasicAuthHandler(passwdmgr)
opener = request.build_opener(http_authhandler)
req = request.Request("http://"+webserver)
response = opener.open(req)
通过http.cookiejar中的HTTPCookieProcessor构建cookie处理器对象，处理cookie信息
import http.cookiejar
from urllib import request,parse
#模拟登陆先post账户密码
#然后保存生成的cookie
#通过CookieJar类构件一个coociejar对象,从来保存cookie值
cookie = http.cookiejar.CookieJar()
#构件cookie处理器对象，用来处理cookie
cookie_handler = request.HTTPCookieProcessor(cookie)
#构件一个自定义的opener
opener = request.build_opener(cookie_handler)
#通过自定义的opener的addheaders参数，可以添加HTTP报头参数
opener.addheaders = [("User-Agent","Mozilla/5.0 (compatible; U; ABrowse 0.6; Syllable) AppleWebKit/420+ (KHTML, like Gecko)"),]
#需要登陆的接口
url = 'http://www.renren.com/PLogin.do'
#需要登陆的账户密码
data = {
"email":"renren账号",
"password":"密码"
}
#数据处理
data = bytes(parse.urlencode(data),'utf-8')
#第一次是POST请求，通过登陆账户密码，得到cookie
req = request.Request(url,data=data)
#发送第一次POST请求，生成登陆后的cookie
response = opener.open(req)
print(response.read().decode("utf-8"))
#此时的opener已经包含了该链接下的cookie，此时使用该opener就可以直接访问该站点下其他的网页而不需要再登陆了
opener.open(http://www.renren.com/PLogin.doxxxxxxxxxxxxx)
以上就是python爬虫基础之urllib的使用的详细内容，更多关于python 爬虫urllib的资料请关注其它相关文章！
京公网安备 11010802040832号 | 京ICP备19059560号-6 