视频1 视频21 视频41 视频61 视频文章1 视频文章21 视频文章41 视频文章61 推荐1 推荐3 推荐5 推荐7 推荐9 推荐11 推荐13 推荐15 推荐17 推荐19 推荐21 推荐23 推荐25 推荐27 推荐29 推荐31 推荐33 推荐35 推荐37 推荐39 推荐41 推荐43 推荐45 推荐47 推荐49 关键词1 关键词101 关键词201 关键词301 关键词401 关键词501 关键词601 关键词701 关键词801 关键词901 关键词1001 关键词1101 关键词1201 关键词1301 关键词1401 关键词1501 关键词1601 关键词1701 关键词1801 关键词1901 视频扩展1 视频扩展6 视频扩展11 视频扩展16 文章1 文章201 文章401 文章601 文章801 文章1001 资讯1 资讯501 资讯1001 资讯1501 标签1 标签501 标签1001 关键词1 关键词501 关键词1001 关键词1501 专题2001
python怎么获取网页内容
2020-11-27 14:06:52 责编:小采
文档
 Python用做数据处理还是相当不错的,如果你想要做爬虫,Python是很好的选择,它有很多已经写好的类包,只要调用,即可完成很多复杂的功能。

1 Pyhton获取网页的内容(也就是源代码)(推荐学习:Python视频教程)

page = urllib2.urlopen(url) 
contents = page.read() 
#获得了整个网页的内容也就是源代码 
print(contents)

url代表网址,contents代表网址所对应的源代码,urllib2是需要用到的包,以上三句代码就能获得网页的整个源代码

2 获取网页中想要的内容(先要获得网页源代码,再分析网页源代码,找所对应的标签,然后提取出标签中的内容)

以豆瓣电影排名为例子

现在我需要获得当前页面的所有电影的名字,评分,评价人数,链接

#coding:utf-8 
''''' 
@author: jsjxy 
''' 
import urllib2 
import re 
from bs4 import BeautifulSoup 
from distutils.filelist import findall 

page = urllib2.urlopen('http://movie.douban.com/top250?format=text') 
contents = page.read() 
 #print(contents) 
soup = BeautifulSoup(contents,"html.parser") 
print("豆瓣电影TOP250" + "
" +" 影片名 评分 评价人数 链接 ") 
for tag in soup.find_all('div', class_='info'): 
 # print tag 
 m_name = tag.find('span', class_='title').get_text() 
 m_rating_score = float(tag.find('span',class_='rating_num').get_text()) 
 m_people = tag.find('div',class_="star") 
 m_span = m_people.findAll('span') 
 m_peoplecount = m_span[3].contents[0] 
 m_url=tag.find('a').get('href') 
 print( m_name+" " + str(m_rating_score) + " " + m_peoplecount + " " + m_url )

控制台输出,你也可以写入文件中

更多Python相关技术文章,请访问Python教程栏目进行学习!

下载本文
显示全文
专题