视频1 视频21 视频41 视频61 视频文章1 视频文章21 视频文章41 视频文章61 推荐1 推荐3 推荐5 推荐7 推荐9 推荐11 推荐13 推荐15 推荐17 推荐19 推荐21 推荐23 推荐25 推荐27 推荐29 推荐31 推荐33 推荐35 推荐37 推荐39 推荐41 推荐43 推荐45 推荐47 推荐49 关键词1 关键词101 关键词201 关键词301 关键词401 关键词501 关键词601 关键词701 关键词801 关键词901 关键词1001 关键词1101 关键词1201 关键词1301 关键词1401 关键词1501 关键词1601 关键词1701 关键词1801 关键词1901 视频扩展1 视频扩展6 视频扩展11 视频扩展16 文章1 文章201 文章401 文章601 文章801 文章1001 资讯1 资讯501 资讯1001 资讯1501 标签1 标签501 标签1001 关键词1 关键词501 关键词1001 关键词1501 专题2001
Python3爬虫实例之网易云音乐爬虫
2020-11-27 14:11:38 责编:小采
文档
 本篇文章给大家带来的内容是Python3爬虫实例之网易云音乐爬虫。有一定的参考价值,有需要的朋友可以参考一下,希望对你们有所帮助。

此次的目标是爬取网易云音乐上指定歌曲所有评论并生成词云

具体步骤:

一:实现JS加密

找到这个ajax接口没什么难度,问题在于传递的数据,是通过js加密得到的,因此需要查看js代码。

通过断掉调试可以找到数据是由core_8556f331851a422ec534e33e6fa5a4.js?8556f331851a422ec534e33e6fa5a4.js里的window.asrsea函数加密的。

通过进一步的查找,可以找到下面这个函数:

function() {
 // 生成长度为16的随机字符串
 function a(a) {
 var d, e, b = "abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ01234567", c = "";
 for (d = 0; a > d; d += 1)
 e = Math.random() * b.length,
 e = Math.floor(e),
 c += b.charAt(e);
 return c
 }
 // 实现AES加密
 function b(a, b) {
 var c = CryptoJS.enc.Utf8.parse(b)
 , d = CryptoJS.enc.Utf8.parse("0102030405060708")
 , e = CryptoJS.enc.Utf8.parse(a)
 , f = CryptoJS.AES.encrypt(e, c, {
 iv: d,
 mode: CryptoJS.mode.CBC
 });
 return f.toString()
 }
 // 实现RSA加密
 function c(a, b, c) {
 var d, e;
 return setMaxDigits(131),
 d = new RSAKeyPair(b,"",c),
 e = encryptedString(d, a)
 }
 // 得到加密后的结果
 function d(d, e, f, g) {
 var h = {}
 , i = a(16);
 return h.encText = b(d, g),
 h.encText = b(h.encText, i),
 h.encSecKey = c(i, e, f),
 h
 }
 function e(a, b, d, e) {
 var f = {};
 return f.encText = c(a + e, b, d),
 f
 }
}()

因此我们需要用Python实现上面四个函数。第一个生成随机字符串的函数没难度,实现的代码如下:

# 生成随机字符串
def generate_random_string(length):
 string = "abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ01234567"
 # 初始化随机字符串
 random_string = ""
 # 生成一个长度为length的随机字符串
 for i in range(length):
 random_string += string[int(floor(random() * len(string)))]
 return random_string

第二个是实现AES加密的函数,而用AES加密需要使用Crypto这个库。 如果没有安装这个库的话,需要先安装pycrypto库,然后再安装Crypto库。 在成功安装之后,如果import的时候没有Crypto而只有crypto,先打开Python安装目录下的Libsite-packagescrypto文件夹,如果里面有Cipher文件夹,就返回到 Libsite-packages目录下把crypto重命名为Crypto,然后应该就可以成功导入了。

由于AES加密的明文长度必须是16的倍数,因此我们需要对明文进行必要的填充,以满足它的长度是16的倍数,AES加密的模式是AES.MODE_CBC,初始化向量iv='0102030405060708′。

实现AES加密的代码如下:

# AES加密
def aes_encrypt(msg, key):
 # 如果不是16的倍数则进行填充
 padding = 16 - len(msg) % 16
 # 这里使用padding对应的单字符进行填充
 msg += padding * chr(padding)
 # 用来加密或者解密的初始向量(必须是16位)
 iv = '0102030405060708'
 # AES加密
 cipher = AES.new(key, AES.MODE_CBC, iv)
 # 加密后得到的是bytes类型的数据
 encrypt_bytes = cipher.encrypt(msg)
 # 使用Base进行编码,返回byte字符串
 encode_string = base.bencode(encrypt_bytes)
 # 对byte字符串按utf-8进行解码
 encrypt_text = encode_string.decode('utf-8')
 # 返回结果
 return encrypt_text

第三个是实现RSA加密的函数,在RSA加密中,明文和密文都是数字, RSA的密文是对代表明文的数字的E次方求mod N 的结果, RSA加密后得到的字符串长为256,这里不够长我们用x字符填充。

实现RSA加密的代码如下:

# RSA加密
def rsa_encrypt(random_string, key, f):
 # 随机字符串逆序排列
 string = random_string[::-1]
 # 将随机字符串转换成byte类型数据
 text = bytes(string, 'utf-8')
 # RSA加密
 sec_key = int(codecs.encode(text, encoding='hex'), 16) ** int(key, 16) % int(f, 16)
 # 返回结果
 return format(sec_key, 'x').zfill(256)

第四个函数是得到两个加密参数的函数,传入的四个参数,第一个参数JSON.stringify(i3x)是以下内容,其中offset和limit参数是必须要有的,offset的值是(页数-1)*20,limit的值是20

'{"offset":'+str(offset)+',"total":"True","limit":"20","csrf_token":""}'

第二个参数,第三个参数和第四个参数的值都是根据Zj4n.emj得到的:

encText的值是通过两次AES加密得到的,encSecKey是通过RSA加密得到的,实现的具体代码如下:

# 获取参数
def get_params(page):
 # 偏移量
 offset = (page - 1) * 20
 # offset和limit是必选参数,其他参数是可选的
 msg = '{"offset":' + str(offset) + ',"total":"True","limit":"20","csrf_token":""}'
 key = '0CoJUm6Qyw8W8jud'
 f = '00e0b509f6259df82dbc35662901477df22677ec152b5ff68ace615bb7b725152b3ab17a87' 
 '6aea8a5aa76d2e417629ec4ee341f56135fccf695280104e0312ecbda92557c93870114af6c9' 
 'd05c4f7f0c3685b7a46bee255932575cce10b424d813cfe4875d3e82047b97ddef52741d546b' 
 '8e2dc6935b3ece0462db0a22b8e7'
 e = '010001'
 # 生成长度为16的随机字符串
 i = generate_random_string(16)
 # 第一次AES加密
 enc_text = aes_encrypt(msg, key)
 # 第二次AES加密之后得到params的值
 encText = aes_encrypt(enc_text, i)
 # RSA加密之后得到encSecKey的值
 encSecKey = rsa_encrypt(i, e, f)
 return encText, encSecKey

二、解析并保存评论

通过查看preview的信息可以发现用户名和评论内容都是保存在json格式的数据里的

因此解析起来会很容易,直接提取nickname和content就好了。对于得到的数据,都保存在以歌名为文件名的txt文件中。实现的代码如下:

# 爬取评论内容
def get_comments(data):
 # data=[song_id,song_name,page_num]
 url = 'https://music.163.com/weapi/v1/resource/comments/R_SO_4_' + str(data[0]) + '?csrf_token='
 # 得到两个加密参数
 text, key = get_params(data[2])
 # 发送post请求
 res = requests.post(url, headers=headers, data={"params": text, "encSecKey": key})
 if res.status_code == 200:
 print("正在爬取第{}页的评论".format(data[2]))
 # 解析
 comments = res.json()['comments']
 # 存储
 with open(data[1] + '.txt', 'a', encoding="utf-8") as f:
 for i in comments:
 f.write(i['content'] + "
")
 else:
 print("爬取失败!")

三、生成词云

在进行这一步之前,需要先安装好jieba和wordcloud两个模块,jieba模块是一个用于中文分词的模块,wordcloud模块是一个用于生成词云的模块,可以自行了解学习。

这部分就不赘述了,具体代码如下:

# 生成词云
def make_cloud(txt_name):
 with open(txt_name + ".txt", 'r', encoding="utf-8") as f:
 txt = f.read()
 # 结巴分词
 text = ''.join(jieba.cut(txt))
 # 定义一个词云
 wc = WordCloud(
 font_path="font.ttf",
 width=1200,
 height=800,
 max_words=100,
 max_font_size=200,
 min_font_size=10
 )
 # 生成词云
 wc.generate(text)
 # 保存为图片
 wc.to_file(txt_name + ".png")

完整代码已经上传到github(包括font.ttf文件):https://github.com/QAQ112233/WangYiYun

下载本文
显示全文
专题