视频1 视频21 视频41 视频61 视频文章1 视频文章21 视频文章41 视频文章61 推荐1 推荐3 推荐5 推荐7 推荐9 推荐11 推荐13 推荐15 推荐17 推荐19 推荐21 推荐23 推荐25 推荐27 推荐29 推荐31 推荐33 推荐35 推荐37 推荐39 推荐41 推荐43 推荐45 推荐47 推荐49 关键词1 关键词101 关键词201 关键词301 关键词401 关键词501 关键词601 关键词701 关键词801 关键词901 关键词1001 关键词1101 关键词1201 关键词1301 关键词1401 关键词1501 关键词1601 关键词1701 关键词1801 关键词1901 视频扩展1 视频扩展6 视频扩展11 视频扩展16 文章1 文章201 文章401 文章601 文章801 文章1001 资讯1 资讯501 资讯1001 资讯1501 标签1 标签501 标签1001 关键词1 关键词501 关键词1001 关键词1501 专题2001
Node.js 如何利用异步提升任务处理速度
2020-11-27 22:02:18 责编:小采
文档

今天在做一个小任务,需要调用阿里云的图像识别接口,对 62662 张照片进行场景识别,并将结果写到本地的 csv 文件中。

因为任务很简单,没想很多就开始码。自从有了 async/await 之后,已经很久不写 callback 了,所以上手就写成这样:

本文所有代码均有简化,只保留关键过程

async fetchSceneTags(imagePath) {
 try {
 const result = await callAliyunAPI(imagePath);
 return result.errno === 0 ? result.tags : [];
 } catch(error) {
 return []; 
 }
}

async function writeScene(paths) {
 for (let i = 0, len = paths.length; i < len; i++) {
 await tags = fetchSceneTags(paths[i])
 writeToFile(tags);
 writeStdout(`${i} / ${len}`);
 }
}

function start() {
 const paths = loadPaths();
 writeScene(paths);
}

运行起来以后没问题就放着忙别的去了。过了差不多 2 小时回来一看,才跑了 17180 张图,每分钟 144 张。这才意识到同步速度太慢了,于是停掉进程,将代码改成下面这样:

fetchSceneTagsAsync(imagePath, callback) {
 callAliyunAPI(imagePath)
 .then(result => {
 const tags = result.errno === 0 ? result.tags : [];
 callback(tags);
 })
 .catch(error => callback([]));
}

function writeSceneAsync(paths) {
 const callback = tags => {
 await tags = fetchSceneTagsAsync(paths[i])
 writeToFile(tags);
 }
 
 paths.forEach(path => fetchSceneTagsAsync(path, callback));
}

function start() {
 const paths = loadPaths();
 writeSceneAsync(paths);
}

跑了一下,直接停摆了。嗯,不能一下把请求全发出去,加一个 Throttle:

fetchSceneTagsAsync(imagePath, callback) {
 callAliyunAPI(imagePath)
 .then(result => {
 const tags = result.errno === 0 ? result.tags : [];
 callback(tags);
 })
 .catch(error => callback([]));
}

function throttle(paths, callback) {
 if(paths.length === 0) return;
 
 const sub = paths.splice(0, 10);
 sub.forEach(path => fetchSceneTagsAsync(path, callback));
 setTimeout(() => throttle(paths, callback), 1000)
}

function writeSceneAsync(paths) {
 const callback = tags => {
 await tags = fetchSceneTagsAsync(paths[i])
 writeToFile(tags);
 }
 
 throttle(paths, callback)
}

function start() {
 const paths = loadPaths();
 writeSceneAsync(paths);
}

重新启动服务,观察了一下,大约每分钟处理 568 张图片,速度提升约 4 倍。

下载本文
显示全文
专题