当前位置：首页 > news >正文

Python的网络请求

news 2025/8/14 20:03:57

自学python如何成为大佬(目录):https://blog.csdn.net/weixin_67859959/article/details/139049996?spm=1001.2014.3001.5501

在上一节中多次提到了URL地址与下载网页，这两项是网络爬虫必备而又关键的功能，说到这两个功能必然会提到HTTP。本节将介绍在Python中实现HTTP网络请求常见的三种方式：urllib、urllib3以及requests。

1 urllib模块

urllib是python自带模块，该模块中提供了一个urlopen()方法，通过该方法指定URL发送网络请求来获取数据。urllib提供了多个子模块，具体的模块名称与含义如表1所示。

表1 urllib中的子模块

模块名称	描述
urllib.request	该模块定义了打开URL（主要是HTTP）的方法和类，例如，身份验证、重定向、cookie等等
urllib.error	该模块中主要包含异常类，基本的异常类是URLError
urllib.parse	该模块定义的功能分为两大类：URL解析和URL引用
urllib.robotparser	该模块用于解析robots.txt文件

通过urllib.request模块实现发送请求并读取网页内容的简单示例如下：

import urllib.request # 导入模块

# 打开指定需要爬取的网页

response = urllib.request.urlopen('http://www.baidu.com')

html = response.read() # 读取网页代码

print(html) # 打印读取内容

上面的示例中，是通过get请求方式获取百度的网页内容。下面通过使用urllib.request模块的post请求实现获取网页信息的内容，示例如下：

import urllib.parse

import urllib.request

# 将数据使用urlencode编码处理后，再使用encoding设置为utf-8编码

data = bytes(urllib.parse.urlencode({'word': 'hello'}), encoding='utf8')

# 打开指定需要爬取的网页

response = urllib.request.urlopen('http://httpbin.org/post', data=data)

html = response.read() # 读取网页代码

print(html) # 打印读取内容

说明：这里通过http://httpbin.org/post网站进行演示，该网站可以作为练习使用urllib的一个站点使用，可以模拟各种请求操作。

注意：由于本章使用Scrapy爬虫框架和Crawley爬虫框架，代码部分与IDLE中的颜色有不一致的情况，这是考虑了与环境一致的原则。

2 Urllib3模块

Urllib3是一个功能强大，条理清晰，用于HTTP客户端的Python库，许多Python的原生系统已经开始使用Urllib3。Urllib3提供了很多Python标准库里所没有的重要特性：

Urllib3是一个功能强大，条理清晰的 HTTP客户端，适用于Python。Urllib3提供了很多Python标准库里所没有的重要特性：

l 线程安全。

l 连接池。

l 客户端SSL / TLS验证。

l 使用大部分编码上传文件。

l Helpers用于重试请求并处理HTTP重定向。

l 支持gzip和deflate编码。

l 支持HTTP和SOCKS代理。

l 100％的测试覆盖率。

通过Urllib3模块实现发送网络请求的示例代码如下：

import urllib3

# 创建PoolManager对象，用于处理与线程池的连接以及线程安全的所有细节

http = urllib3.PoolManager()

# 对需要爬取的网页发送请求

response = http.request('GET','https://www.baidu.com/')

print(response.data) # 打印读取内容

post请求实现获取网页信息的内容，关键代码如下：

# 对需要爬取的网页发送请求

response = http.request('POST','http://httpbin.org/post',fields={'word': 'hello'})

注意：在使用Urllib3模块前，需要在Python中通过pip install urllib3代码进行模块的安装。

3 requests模块

requests是Python中实现HTTP请求的一种方式，requests是第三方模块，该模块在实现HTTP请求时要比urllib模块简化很多，操作更加人性化。在使用requests模块时需要通过执行pip install requests代码进行该模块的安装。requests模块的功能特性如下：

以GET请求方式为例，打印多种请求信息的示例代码如下：

import requests # 导入模块

response = requests.get('http://www.baidu.com')

print(response.status_code) # 打印状态码

print(response.url) # 打印请求url

print(response.headers) # 打印头部信息

print(response.cookies) # 打印cookie信息

print(response.text) # 以文本形式打印网页源码

print(response.content) # 以字节流形式打印网页源码

以POST请求方式，发送HTTP网络请求的示例代码如下：

import requests

data = {'word': 'hello'} # 表单参数

# 对需要爬取的网页发送请求

response = requests.post('http://httpbin.org/post', data=data)

print(response.content) # 以字节流形式打印网页源码

requests模块不仅提供了以上两种常用的请求方式，还提供以下多种网络请求的方式。代码如下：

requests.put('http://httpbin.org/put',data = {'key':'value'}) # PUT请求

requests.delete('http://httpbin.org/delete') # DELETE请求

requests.head('http://httpbin.org/get') # HEAD请求

requests.options('http://httpbin.org/get') # OPTIONS请求

如果发现请求的URL地址中参数是跟在“？”的后面，例如“httpbin.org/get?key=val”。requests模块提供了传递参数的方法，允许使用params 关键字参数，以一个字符串字典来提供这些参数。例如，传递“key1=value1”和“key2=value2”到“httpbin.org/get”，可以使用如下代码：

import requests

payload = {'key1': 'value1', 'key2': 'value2'} # 传递的参数

# 对需要爬取的网页发送请求

response = requests.get("http://httpbin.org/get", params=payload)

print(response.content) # 以字节流形式打印网页源码