Day10.如何给⽑不易的歌曲做词云展示

拼搏现实的明天。 2023-02-15 13:56 6阅读 0赞

Python词云

今天我们做⼀个数据可视化的项⽬。

我们经常需要对分析的数据提取常⽤词，做词云展示。⽐如⼀些互联⽹公司会抓取⽤户的画像，或者每⽇讨论话题的关键词，形成词云并进⾏展示。

或者你喜欢某个歌⼿，想了解这个歌⼿创作的歌曲中经常⽤到哪些词语，词云就是个很好的⼯具。

那么在今天的实战项⽬⾥，有3个⽬标需要掌握：

1.掌握词云分析⼯具，并进⾏可视化呈现；

2.掌握Python爬⾍，对⽹⻚的数据进⾏爬取；

3.掌握XPath⼯具，分析提取想要的元素 。

### 如何制作词云 ###

⾸先我们需要了解什么是词云。词云也叫⽂字云，它帮助我们统计⽂本中⾼频出现的词，过滤掉某些常⽤词（⽐如“作曲”“作词”），将⽂本中的重要关键词进⾏可视化，⽅便分析者更好更快地了解⽂本的重点，同时还具有⼀定的美观度。

Python提供了词云⼯具WordCloud，使⽤pip install wordcloud安装后，就可以创建⼀个词云，构造⽅法如下：

wc = WordCloud(
        background_color='white',  # 设置背景颜⾊
        mask=backgroud_Image,  # 设置背景图⽚
        font_path='./SimHei.ttf',  # 设置字体，针对中⽂的情况需要设置中⽂字体，否则显示乱码
        max_words=100,  # 设置最⼤的字数
        stopwords=STOPWORDS,  # 设置停⽤词
        max_font_size=150,  # 设置字体最⼤值
        width=2000,  # 设置画布的宽度
        height=1200,  # 设置画布的⾼度
        random_state=30  # 设置多少种随机状态，即多少种颜⾊
    )

实际上WordCloud还有更多的构造参数，代码⾥展示的是⼀些主要参数。

创建好WordCloud类之后，就可以使⽤wordcloud=generate(text)⽅法⽣成词云，传⼊的参数text代表你要分析的⽂本，最后使⽤wordcloud.tofile(“a.jpg”)函数，将得到的词云图像直接保存为图⽚格式⽂件。

你也可以使⽤Python的可视化⼯具Matplotlib进⾏显示，⽅法如下：

import matplotlib.pyplot as plt
    plt.imshow(wordcloud)
    plt.axis("off")
    plt.show()

需要注意的是，我们不需要显示X轴和Y轴的坐标，使⽤plt.axis(“off”)可以将坐标轴关闭。

了解了如何使⽤词云⼯具WordCloud之后，我们将本期课程的前几节的标题进⾏词云可视化，具体的代码如下：

fromwordcloudimportWordCloud
    import matplotlib.pyplot as plt
    import jieba
    from PIL import Image
    import numpy as np
    
    f = '数据可视化概述\
    数据可视化基础语法\
    五种常见图形绘制\
    五种扩展图形绘制\
    可视化基础数据分析-NumPy入门指南(一)\
    数据分析-NumPy入门指南(二)\
    数据挖掘初探：亲和性分析-商品推荐\
    利用pandas做数据处理(一)\
    利用pandas做数据处理(二)\
    十分钟掌握python操作excel秘诀\
    数据采集-爬虫\
    数据清洗\
    数据集成与转换\
    数据可视化：给毛不易的歌词做词云展示'
    
    # ⽣成词云
    def create_word_cloud(f):
        print('根据词频计算词云')
    text = ' '.join(jieba.cut(f, cut_all=False, HMM=True))
    wc = WordCloud(
        font_path="C:\Windows\Fonts\SimHei.ttf",
        max_words=100,
        width=2000,
        height=1200,
    )
    wordcloud = wc.generate(text)
    # 写词云图⽚
    wordcloud.to_file("wordcloud.jpg")
    # 显示词云⽂件
    plt.imshow(wordcloud)
    plt.axis("off")
    plt.show()

运行结果![format_png][]

### 给⽑不易的歌词制作词云： ###

假设我们现在要给⽑不易的歌词做个词云，那么需要怎么做呢？我们先把整个项⽬的流程梳理下：

**准备阶段**：我们主要使⽤Python爬⾍获取HTML，⽤XPath对歌曲的ID、名称进⾏解析，然后通过⽹易云⾳乐的API接⼝获取每⾸歌的歌词，最后将所有的歌词合并得到⼀个变量。

**词云分析阶段：**我们需要创建WordCloud词云类，分析得到的歌词⽂本，最后可视化。

# ⽹易云⾳乐 通过歌⼿ID，⽣成该歌⼿的词云
    import requests
    import sys
    import re
    import os
    from wordcloud import WordCloud,STOPWORDS
    import matplotlib.pyplot as plt
    import jieba
    from PIL import Image
    import numpy as np
    from lxml import etree
    
    headers = {
        'Referer': 'http://music.163.com',
        'Host': 'music.163.com',
        'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8',
        'User-Agent': 'Chrome/10'
        }
    
    # 得到某⼀⾸歌的歌词
    def get_song_lyric(headers, lyric_url):
        res = requests.request('GET', lyric_url, headers=headers)
        if 'lrc' in res.json():
            lyric = res.json()['lrc']['lyric']
            new_lyric = re.sub(r'[\d:.[\]]', '', lyric)
            return new_lyric
        else:
            return ''
            print(res.json())
    
    def remove_stop_words(f):
        stop_words = {"作词", "作曲", "编曲", "Arranger", "录⾳", "混⾳", "⼈声", "Vocal", "弦乐", "Keyboard", "键盘", "编辑","不易","" }
        for stop_words in stop_words:
            f = f.replace(stop_words, '')
        return f
    
    # ⽣成词云
    def create_word_cloud(f):
        print('根据词频，开始⽣成词云!')
        f = remove_stop_words(f)
        cut_text = " ".join(jieba.cut(f, cut_all=False, HMM=True))
        wc = WordCloud(
            font_path="C:\Windows\Fonts\FZSTK.TTF",
            max_words=100,
            width=2000,
            height=1200,
        )
        print(cut_text)
        wordcloud = wc.generate(cut_text)
        # 写词云图⽚
        wordcloud.to_file("wordcloud.jpg")
        # 显示词云⽂件
        plt.imshow(wordcloud)
        plt.axis("off")
        plt.show()
    
    
    # 得到指定歌⼿⻚⾯ 热⻔前50的歌曲ID，歌曲名
    def get_songs(artist_id):
        page_url = 'https://music.163.com/artist?id=' + artist_id
        # 获取⽹⻚HTML
        res = requests.request('GET', page_url, headers=headers)
        # ⽤XPath解析 前50⾸热⻔歌曲
        html = etree.HTML(res.text)
        href_xpath = "//*[@id='hotsong-list']//a/@href"
        name_xpath = "//*[@id='hotsong-list']//a/text()"
        hrefs = html.xpath(href_xpath)
        names = html.xpath(name_xpath)
        # 设置热⻔歌曲的ID，歌曲名称
        song_ids = []
        song_names = []
        for href, name in zip(hrefs, names):
            song_ids.append(href[9:])
            song_names.append(name)
            print(href, ' ', name)
        return song_ids, song_names
    # 设置歌⼿ID，⽑不易为12138269
    artist_id = '12138269'
    [song_ids, song_names] = get_songs(artist_id)
    # 所有歌词
    all_word = ''
    # 获取每⾸歌歌词
    for (song_id, song_name) in zip(song_ids, song_names):
        # 歌词API URL
        lyric_url = 'http://music.163.com/api/song/lyric?os=pc&id=' + song_id + '&lv=-1&kv=-1&tv=-1'
        lyric = get_song_lyric(headers, lyric_url)
        all_word = all_word + ' ' + lyric
        print(song_name)
    # 根据词频 ⽣成词云
    create_word_cloud(all_word)

运行结果

![format_png 1][]

这个过程⾥编写get\_songs函数，可以得到指定歌⼿⻚⾯中热⻔前50的歌曲ID，歌曲名。

使⽤requests.request函数获取⽑不易歌⼿⻚⾯的HTML。这⾥需要传⼊指定的请求头（headers），否则获取不到完整的信息。然后⽤XPath解析并获取指定的内容，这个模块中，我想获取的是歌曲的链接和名称。

你能看到歌词⽂件⾥⾯还保存了时间信息，我们需要去掉这部分。因此我使⽤了re.sub函数，通过正则表达式匹配，将\[\]中数字信息去掉，⽅法为re.sub(r’\[\\d:.\[\]\]’,’’,lyric)。

我们还需要设置⼀些歌词中常⽤的停⽤词，⽐如“作词”“作曲”“编曲”等，编写remove\_stop\_words函数，将歌词⽂本中的停⽤词去掉。

最后编写create\_word\_cloud函数，通过歌词⽂本⽣成词云⽂件。

### 总结 ###

在这个实战中，我们发现前期的数据准备在整个过程中占了很⼤⼀部分。如果你⽤Python作为数据采集⼯具，就需要掌握Python爬⾍和XPath解析，掌握这两个⼯具最好的⽅式就是多做练习。

我们今天讲到了词云⼯具WordCloud，它是⼀个很好⽤的Python⼯具，可以将复杂的⽂本通过词云图的⽅式呈现。

需要注意的是，当我们需要使⽤中⽂字体的时候，⽐如⿊体SimHei，就可以将WordCloud中的font\_path属性设置为SimHei.ttf，你也可以设置其他艺术字体，在给⽑不易的歌词做词云展示的时候，我们就⽤到了艺术字体。

### 小作业 ###

抓取了⽑不易主⻚的歌词，是以歌⼿主⻚为粒度进⾏的词云可视化。

实际上⽹易云⾳乐也有歌单的API，⽐如http://music.163.com/api/playlist/detail?id=753776811。

你能不能编写代码对歌单做个词云展示（⽐如歌单ID为753776811）呢？

![format_png 2][]

![format_png 3][]

[![format_png 4][]][format_png 4 1]

**写在后面：**

数据集成和转换是为分析和挖掘做准备~

是不是很有趣呢~

记得打卡，在群里分享你的代码和笔记~

![format_png 5][]

好文章，我在看❤

[format_png]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9xaWFTbDNSVDFSYzNiZFF2YkJJZnpOSzh5bTdMdWNWazVyTlphM0lVRTBpYnBrMVFMUXRMMkJwbDJCbnhTNUhsc2xHZVR4Rm5BbGoyYmljdW5OTGpMZGRIUS82NDA?x-oss-process=image/format,png
[format_png 1]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9xaWFTbDNSVDFSYzNiZFF2YkJJZnpOSzh5bTdMdWNWazV4VlhtWDZpYWtaUnFBZHNiOGV2S2FRSUFNQ3I3QWQ2WTh0T1FQU3dseld1RVNnd2liNXBQTlVzQS82NDA?x-oss-process=image/format,png
[format_png 2]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2dpZi9MamliNFNvN3l1V2g0b3Z5WmNieDBjSTZUUHVwSkd4YmttYkVMUW5mUXZNYlpwaWNzUXVWT29hN1B2YVVYQ05GbktMc2wwSEZFQlNhNFdZT0pGUGNmWHJBLzY0MA?x-oss-process=image/format,png
[format_png 3]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2dpZi9iOTZDaWJDdDcwaWFaVldMcUtXWXFUb0JCb0xUZU5jMk5tbHk0REJnbmoyb21Vcm5XdWtHZm1DQ1F0VmlhTGlhaktIcDRjQ1VNOUZXZzhzMTRVT1JoY2NVQmcvNjQw?x-oss-process=image/format,png
[format_png 4]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9xaWFTbDNSVDFSYzMydlo5TjhpYTJjWDMzQ1d5c0RpYnF4ME5OVzcwWE1PcnpicVE2Z1gydkJpYUx5WmljbDFraWFacDNuWkJQRUQ3VUJyNlhyNnprMUR5NXcwdy82NDA?x-oss-process=image/format,png
[format_png 4 1]: http://mp.weixin.qq.com/s?__biz=MzIwMTMxMTQxNQ%3D%3D&chksm=8157e296b6206b806f81f630b59736922d550dd401446ed29f5c0375f5eb6c90f74907713688&idx=1&mid=2454493006&scene=21&sn=7b43c9d042e104d1e7fcbef7b9b0f4de#wechat_redirect
[format_png 5]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9xaWFTbDNSVDFSYzFlTFVkYjVjenlFcU5kckttRE9pYmxFd2U3OVdOc1ZmNFVpY05LTEJ4TGZpYWFqaEdoNzZEWkV2OWxxdDUySkt4Vm5mUDJZTGliRWliRnJiUS82NDA?x-oss-process=image/format,png