探测 Web 服务质量方法

pycurl（ http://pycurl.sourceforge.net ）是一个用 C 语言写的 libcurl Python 实现，功能非常强大，支持的操作协议有 FTP、HTTP、HTTPS、TELNET 等，可以理解成 Linux 下 curl 命令功能的 Python 封装，简单易用。本节通过调用 pycurl 提供的方法，实现探测 Web 服务质量的情况，比如响应的 HTTP 状态码、请求延时、HTTP 头信息、下载速度等，利用这些信息可以定位服务响应慢的具体环节，下面详细进行说明。

pycurl 模块的安装方法如下：

easy_install pycurl    #pip安装方法
pip install pycurl    #easy_install安装方法

#源码安装方法
# 要求curl-config包支持，需要源码方式重新安装curl
# wget http://curl.haxx.se/download/curl-7.36.0.tar.gz
# tar -zxvf curl-7.36.0.tar.gz
# cd curl-7.36.0
# ./configure
# make && make install
# export LD_LIBRARY_PATH=/usr/local/lib
#
# wget https://pypi.python.org/packages/source/p/pycurl/pycurl-7.19.3.1.tar.gz --no-check-certificate
# tar -zxvf pycurl-7.19.3.1.tar.gz
# cd pycurl-7.19.3.1
# python setup.py install --curl-config=/usr/local/bin/curl-config

校验安装结果如下：

>>> import pycurl
>>> pycurl.version
'PycURL/7.19.3.1 libcurl/7.36.0 OpenSSL/1.0.1e zlib/1.2.3'

模块常用方法说明

pycurl.Curl() 类实现创建一个 libcurl 包的 Curl 句柄对象，无参数。更多关于 libcurl 包的介绍见 http://curl.haxx.se/libcurl/c/libcurl-tutorial.html 。下面介绍 Curl 对象几个常用的方法。

close() 方法，对应 libcurl 包中的 curl_easy_cleanup 方法，无参数，实现关闭、回收 Curl 对象。
perform() 方法，对应 libcurl 包中的 curl_easy_perform 方法，无参数，实现 Curl 对象请求的提交。

setopt(option, value) 方法，对应 libcurl 包中的 curl_easy_setopt 方法，参数 option 是通过 libcurl 的常量来指定的，参数 value 的值会依赖 option，可以是一个字符串、整型、长整型、文件对象、列表或函数等。下面列举常用的常量列表：

c = pycurl.Curl()    #创建一个curl对象
c.setopt(pycurl.CONNECTTIMEOUT, 5)    #连接的等待时间，设置为0则不等待
c.setopt(pycurl.TIMEOUT, 5)    #请求超时时间
c.setopt(pycurl.NOPROGRESS, 0)    #是否屏蔽下载进度条，非0则屏蔽
c.setopt(pycurl.MAXREDIRS, 5)    #指定HTTP重定向的最大数
c.setopt(pycurl.FORBID_REUSE, 1)    #完成交互后强制断开连接，不重用
c.setopt(pycurl.FRESH_CONNECT,1)    #强制获取新的连接，即替代缓存中的连接
c.setopt(pycurl.DNS_CACHE_TIMEOUT,60)    #设置保存DNS信息的时间，默认为120秒
c.setopt(pycurl.URL,"http://www.baidu.com")    #指定请求的URL
c.setopt(pycurl.USERAGENT,"Mozilla/5.2 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 1.1.4322; .NET CLR 2.0.50324)")    #配置请求HTTP头的User-Agent
c.setopt(pycurl.HEADERFUNCTION, getheader)  #将返回的HTTP HEADER定向到回调函数getheader
c.setopt(pycurl.WRITEFUNCTION, getbody)  # 将返回的内容定向到回调函数getbody
c.setopt(pycurl.WRITEHEADER, fileobj)  # 将返回的HTTP HEADER定向到fileobj文件对象
c.setopt(pycurl.WRITEDATA, fileobj)  # 将返回的HTML内容定向到fileobj文件对象

getinfo(option) 方法，对应 libcurl 包中的 curl_easy_getinfo 方法，参数 option 是通过 libcurl 的常量来指定的。下面列举常用的常量列表：

c = pycurl.Curl()  # 创建一个curl对象
c.getinfo(pycurl.HTTP_CODE)  # 返回的HTTP状态码
c.getinfo(pycurl.TOTAL_TIME)  # 传输结束所消耗的总时间
c.getinfo(pycurl.NAMELOOKUP_TIME)  # DNS解析所消耗的时间
c.getinfo(pycurl.CONNECT_TIME)  # 建立连接所消耗的时间
c.getinfo(pycurl.PRETRANSFER_TIME)  # 从建立连接到准备传输所消耗的时间
c.getinfo(pycurl.STARTTRANSFER_TIME)  # 从建立连接到传输开始消耗的时间
c.getinfo(pycurl.REDIRECT_TIME)  # 重定向所消耗的时间
c.getinfo(pycurl.SIZE_UPLOAD)  # 上传数据包大小
c.getinfo(pycurl.SIZE_DOWNLOAD)  # 下载数据包大小
c.getinfo(pycurl.SPEED_DOWNLOAD)  # 平均下载速度
c.getinfo(pycurl.SPEED_UPLOAD)  # 平均上传速度
c.getinfo(pycurl.HEADER_SIZE)  # HTTP头部大小

我们利用 libcurl 包提供的这些常量值来达到探测 Web 服务质量的目的。

实践：实现探测 Web 服务质量

HTTP 服务是最流行的互联网应用之一，服务质量的好坏关系到用户体验以及网站的运营服务水平，最常用的有两个标准，一为服务的可用性，比如是否处于正常提供服务状态，而不是出现 404 页面未找到或 500 页面错误等；二为服务的响应速度，比如静态类文件下载时间都控制在毫秒级，动态 CGI 为秒级。本示例使用 pycurl 的 setopt 与 getinfo 方法实现 HTTP 服务质量的探测，获取监控 URL 返回的 HTTP 状态码，HTTP 状态码采用 pycurl.HTTP_CODE 常量得到，以及从 HTTP 请求到完成下载期间各环节的响应时间，通过 pycurl.NAMELOOKUP_TIME、pycurl.CONNECT_TIME、pycurl.PRETRANSFER_TIME、pycurl.R 等常量来实现。另外通过pycurl.WRITEHEADER、pycurl.WRITEDATA 常量得到目标 URL 的 HTTP 响应头部及页面内容。实现源码如下：

pycurl/simple1.py

# -＊- coding: utf-8-＊-
import os, sys
import time
import sys
import pycurl

URL = "http://www.google.com.hk"  # 探测的目标URL
c = pycurl.Curl()  # 创建一个Curl对象

c.setopt(pycurl.URL, URL)  # 定义请求的URL常量
c.setopt(pycurl.CONNECTTIMEOUT, 5)  # 定义请求连接的等待时间
c.setopt(pycurl.TIMEOUT, 5)  # 定义请求超时时间
c.setopt(pycurl.NOPROGRESS, 1)  # 屏蔽下载进度条
c.setopt(pycurl.FORBID_REUSE, 1)  # 完成交互后强制断开连接，不重用
c.setopt(pycurl.MAXREDIRS, 1)  # 指定HTTP重定向的最大数为1
c.setopt(pycurl.DNS_CACHE_TIMEOUT, 30)  # 设置保存DNS信息的时间为30秒
# 创建一个文件对象，以”wb”方式打开，用来存储返回的http头部及页面内容
indexfile = open(os.path.dirname(os.path.realpath(__file__)) + "/content.txt", "wb")
c.setopt(pycurl.WRITEHEADER, indexfile)  # 将返回的HTTP HEADER定向到indexfile文件对象
c.setopt(pycurl.WRITEDATA, indexfile)  # 将返回的HTML内容定向到indexfile文件对象

try:
    c.perform()  # 提交请求
except Exception as e:
    print("connecion error:" + str(e))
    indexfile.close()
    c.close()
    sys.exit()

NAMELOOKUP_TIME = c.getinfo(c.NAMELOOKUP_TIME)  # 获取DNS解析时间
CONNECT_TIME = c.getinfo(c.CONNECT_TIME)  # 获取建立连接时间
PRETRANSFER_TIME = c.getinfo(c.PRETRANSFER_TIME)  # 获取从建立连接到准备传输所消
# 耗的时间
STARTTRANSFER_TIME = c.getinfo(c.STARTTRANSFER_TIME)  # 获取从建立连接到传输开始消
# 耗的时间
TOTAL_TIME = c.getinfo(c.TOTAL_TIME)  # 获取传输的总时间
HTTP_CODE = c.getinfo(c.HTTP_CODE)  # 获取HTTP状态码
SIZE_DOWNLOAD = c.getinfo(c.SIZE_DOWNLOAD)  # 获取下载数据包大小
HEADER_SIZE = c.getinfo(c.HEADER_SIZE)  # 获取HTTP头部大小
SPEED_DOWNLOAD = c.getinfo(c.SPEED_DOWNLOAD)  # 获取平均下载速度

# 打印输出相关数据
print("HTTP状态码：%s" % (HTTP_CODE))
print("DNS解析时间：%.2f ms" % (NAMELOOKUP_TIME * 1000))
print("建立连接时间：%.2f ms" % (CONNECT_TIME * 1000))
print("准备传输时间：%.2f ms" % (PRETRANSFER_TIME * 1000))
print("传输开始时间：%.2f ms" % (STARTTRANSFER_TIME * 1000))
print("传输结束总时间：%.2f ms" % (TOTAL_TIME * 1000))
print("下载数据包大小：%d bytes/s" % (SIZE_DOWNLOAD))
print("HTTP头部大小：%d byte" % (HEADER_SIZE))
print("平均下载速度：%d bytes/s" % (SPEED_DOWNLOAD))

# 关闭文件及Curl对象
indexfile.close()
c.close()

代码的执行结果如图 2-9 所示。

Figure 1. 图2-9 探测到的Web服务质量

查看获取的 HTTP 文件头部及页面内容文件 content.txt，如图2-10所示。

Figure 2. 图2-10 content.txt截图

参考提示

2.4.1节 pycurl 模块的常用类与方法说明参考官网 http://pycurl.sourceforge.net/doc/index.html 。