python中获取页面的常用方法-创新互联

创新互联www.cdcxhl.cn八线动态BGP香港云服务器提供商,新人活动买多久送多久,划算不套路!

成都创新互联从2013年创立,是专业互联网技术服务公司,拥有项目网站设计制作、做网站网站策划,项目实施与项目整合能力。我们以让每一个梦想脱颖而出为使命,1280元满城做网站,已为上家服务,为满城各地企业和个人服务,联系电话:18980820575

这篇文章将为大家详细讲解有关python中获取页面的常用方法,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。

python获取页面的方法:1、使用urllib模块获取网页内容;2、使用urllib2模块获取页面内容;3、使用requests模块获取页面内容;4、使用codecs模块获取页面内容。

python中获取页面的常用方法

在学习python爬虫的过程中,总会遇到要获取网页内容的时候,下面就对如何获取网页内容进行总结。

方法一:

>import urllib
>url="http://www.baidu.com" #这里是需要获取的网页
>content=urllib.open(url).read() #使用urllib模块获取网页内容
>print content #输出网页的内容 功能相当于查看网页源代码

方法二:

>import urllib2
>from bs4 import BeautifulSoup #这里需要导入BeautifulSoup 
>url="http://www.baidu.com"
>content=urllib2.urlopen(url)
>soup=BeautifulSoup(content) #将网页内容转化为BeautifulSoup 格式的数据
>print soup

方法三:

>import requests
>content=requests.get(url).content
>print content

这里是使用的python的requests模块获取网页的内容。

方法四:

>import codecs  #导入codecs模块
>f=codecs.open(url,"r","utf-8")   #使用codecs函数以打开的方式打开url 设置默认的编码方式为utf-8
>content=f.read()
>f.close()
>print content

关于python中获取页面的常用方法就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。


当前文章:python中获取页面的常用方法-创新互联
标题来源:http://cdiso.cn/article/hecpp.html

其他资讯