Python中jieba分词模块的用法

这篇文章主要讲解了“Python中jieba分词模块的用法”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Python中jieba分词模块的用法”吧!

0、前言

jieba库是进行中文分词的利器,根据文档描述,具有以下特点:

  1. 分词

  2. 提取关键词

  3. 搜索词汇位置

  4. 2、提取词汇

    在处理词汇时,常常我们会提取出现频率比较高的关键词,jieba.analyse.extract_tags()具有此功能,它接受 4 个参数

  • 3、搜索词汇位置

  • jieba 库也包含了定位词汇位置的功能,jieba.tokenize() 可以实现此功能,该函数接收字符串,返回一个生成器,包含所有分词结果以及始末位置,基本用法如下:

import jieba
string = '今天天气特别好,很开心' result = jieba.tokenize(string)
print(list(result))

结果如下:

[('今天天气', 0, 4), ('特别', 4, 6), ('好', 6, 7),
 (',', 7, 8), ('很', 8, 9), ('开心', 9, 11)]

如果我们只是找到某个特定的词汇在文中的位置,拿之前的西游记文本为例,我们去寻找词汇 “行者” 第一次出现的位置

with open('西游记.txt','r',errors='ignore')as f:
    data = f.read()

result = jieba.tokenize(data) for i in result:
    if '行者' in i:
        print(i)
        break

结果:

('行者', 8593, 8595)

如此,就能很方便的找到特定词汇在文章中出现的位置。

  • <h5  white-space:normal;widows:1;background-color:#ffffff;box-sizing:border-box="" !important;"=""> 4、小结

  • 以上就是 jieba 库的常用的方法,该库还包括词性标注、并行分词、命令行分词、添加字典等等功能。
    更详细的内容参考官方文档:https://github.com/fxsjy/jieba
    对该库的算法感兴趣的同学可参考
    jieba分词的基本思路:
    https://segmentfault.com/a/1190000004061791
    对Python中文分词模块结巴分词算法过程的理解和分析:http://blog.csdn.net/rav009/article/details/12196623

    感谢各位的阅读,以上就是“Python中jieba分词模块的用法”的内容了,经过本文的学习后,相信大家对Python中jieba分词模块的用法这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是亿速云,小编将为大家推送更多相关知识点的文章,欢迎关注!