视频1 视频21 视频41 视频61 视频文章1 视频文章21 视频文章41 视频文章61 推荐1 推荐3 推荐5 推荐7 推荐9 推荐11 推荐13 推荐15 推荐17 推荐19 推荐21 推荐23 推荐25 推荐27 推荐29 推荐31 推荐33 推荐35 推荐37 推荐39 推荐41 推荐43 推荐45 推荐47 推荐49 关键词1 关键词101 关键词201 关键词301 关键词401 关键词501 关键词601 关键词701 关键词801 关键词901 关键词1001 关键词1101 关键词1201 关键词1301 关键词1401 关键词1501 关键词1601 关键词1701 关键词1801 关键词1901 视频扩展1 视频扩展6 视频扩展11 视频扩展16 文章1 文章201 文章401 文章601 文章801 文章1001 资讯1 资讯501 资讯1001 资讯1501 标签1 标签501 标签1001 关键词1 关键词501 关键词1001 关键词1501 专题2001
nodejs实现爬取网站图片功能
2020-11-27 22:23:40 责编:小OO
文档


通过实例给大家讲解nodejs实现爬取网站图片功能,以下就是全部内容:

原理:

爬虫是最明显的IO密集型应用场景,显然用node,使得I/O等待开销小数据挖掘比较方便

借助express模块来搭建node服务

并使用request模块获取目标页面的html代码

下载cheerio模块对html代码做处理(cheerio类似jQuery的语法,所以好用又方便)

环境配置:

npm install express request cheerio --save

(1)引入各个模块

var http = require('http');
var request = require('request);
var cheerio = require('cheerio');
var fs = require('fs'); //用来操作文件
var url = 'https://movie.douban.com/cinema/nowplaying/beijing/' //定义要爬的页面

(2)发送请求

http.get(function(res){
 var html = '';
 var titles = [];
 res.setEncoding('utf-8') //防止中文乱码
 res.on('data',function(chunk){
 html += chrunk; //监听data事件 每次取一块数据
 })
 res.on('end',function(){
 var $ = cheerio.load(html); //获取数据完成后,解析html
 //将获取的图片存到images文件夹中
 $('.mod-bd img').each(function(index, item){
 //获取图片属性
 var imgName = $(this).parent().next().text().trimg()
 var imgfile = imgName + '.jpeg';
 var imgSrc = $(this).attr('src')
 //采用request模块,向服务器发起请求 获取图片资源
 request.head(imgSrc, function(error, res,body){
 if(error){
 console.log('失败了')
 }
 });
 //通过管道的方式用fs模块将图片写到本地的images文件下
 request(imgSrc).pipe.(fs.createWriteStream('./images/' + imgfile));
 })
 
 })
})

下载本文
显示全文
专题