在使用python爬虫提取中文网页的内容,为了能正确显示中文的内容,在转为字符串时一定要声明编码为utf-8,否则无法正常显示中文,而是显示原编码的字符,并没有正确转换。比如下面这个简单的爬取百度页面的title的示例:
import osimport lxmlfrom urllib2 import urlopen # Mac# from urllib.request import Request, urlopen # Winfrom lxml import etreehfile = urlopen('http://www.baidu.com').read()tree = etree.HTML(hfile)strs = tree.xpath( "//title")strs = strs[0]# strs = (etree.tostring(strs)) # 不能正常显示中文strs = (etree.tostring(strs, encoding = "utf-8", pretty_print = True, method = "html")) # 可以正常显示中文print (strs)
如果不在tostring函数中正确配置的话,会打印出:
百度一下,你就知道
而正确的应该是:
百度一下,你就知道