admin 技术分享 2022-06-28

Python分词jieba模块的实例源码

jieba分词器的分词模式

jieba分词器提供了三种常用的分词模式

1、精确模式：将句子按照最精确的方法进行切分，适合用于进行文本分析；

2、全模式：将句子当中所有可以成词的词语都扫描出来，分词速度很快但容易产生歧义；

3、搜索引擎模式：在精确模式分词的基础上，将长的句子再次进行切分，提高召回率，适用于搜索引擎的分词。

注：jieba也支持对繁体字进行分词。

在jieba中我们可以使用jieba.cut和jieba.cut_for_search来进行中文分词，我们可使用 for 循环来获得分词后得到的每一个词语。
————————————————

import jieba.posseg as p
import pandas as pd

filename = "D:/1.txt"
with open(filename, "r",encoding="utf-8") as f:
    txt = f.read()

names = []
for word,flag in p.cut(txt):
    # print(word,flag)
    if flag == "n":
        names.append(word)
rank = pd.Series(names).value_counts()[:10]
print(rank)

附录：词性标注表

词性编码	词性名称	注解
Ag	形语素	形容词性语素。形容词代码为 a，语素代码ｇ前面置以A。
a	形容词	取英语形容词 adjective的第1个字母。
ad	副形词	直接作状语的形容词。形容词代码 a和副词代码d并在一起。
an	名形词	具有名词功能的形容词。形容词代码 a和名词代码n并在一起。
b	区别词	取汉字“别”的声母。
c	连词	取英语连词 conjunction的第1个字母。
dg	副语素	副词性语素。副词代码为 d，语素代码ｇ前面置以D。
d	副词	取 adverb的第2个字母，因其第1个字母已用于形容词。
e	叹词	取英语叹词 exclamation的第1个字母。
f	方位词	取汉字“方”
g	语素	绝大多数语素都能作为合成词的“词根”，取汉字“根”的声母。
h	前接成分	取英语 head的第1个字母。
i	成语	取英语成语 idiom的第1个字母。
j	简称略语	取汉字“简”的声母。
k	后接成分
l	习用语	习用语尚未成为成语，有点“临时性”，取“临”的声母。
m	数词	取英语 numeral的第3个字母，n，u已有他用。
Ng	名语素	名词性语素。名词代码为 n，语素代码ｇ前面置以N。
n	名词	取英语名词 noun的第1个字母。
nr	人名	名词代码 n和“人(ren)”的声母并在一起。
ns	地名	名词代码 n和处所词代码s并在一起。
nt	机构团体	“团”的声母为 t，名词代码n和t并在一起。
nz	其他专名	“专”的声母的第 1个字母为z，名词代码n和z并在一起。
o	拟声词	取英语拟声词 onomatopoeia的第1个字母。
p	介词	取英语介词 prepositional的第1个字母。
q	量词	取英语 quantity的第1个字母。
r	代词	取英语代词 pronoun的第2个字母,因p已用于介词。
s	处所词	取英语 space的第1个字母。
tg	时语素	时间词性语素。时间词代码为 t,在语素的代码g前面置以T。
t	时间词	取英语 time的第1个字母。
u	助词	取英语助词 auxiliary
vg	动语素	动词性语素。动词代码为 v。在语素的代码g前面置以V。
v	动词	取英语动词 verb的第一个字母。
vd	副动词	直接作状语的动词。动词和副词的代码并在一起。
vn	名动词	指具有名词功能的动词。动词和名词的代码并在一起。
w	标点符号
x	非语素字	非语素字只是一个符号，字母 x通常用于代表未知数、符号。
y	语气词	取汉字“语”的声母。
z	状态词	取汉字“状”的声母的前一个字母。
un	未知词	不可识别词及用户自定义词组。取英文Unkonwn首两个字母。(非北大标准，CSW分词中定义)

jieba模块 python 分词实例源码

网站声明： 1.本站大部分资源搜集于网络，仅代表作者观点，如有侵权请提交修改。 2.网站内容仅网站站长做个人学习摘记，任何人不得用于其他商业用途，网站发表的内容全权归原作者所有。 3.有任何疑问，可以点击右侧边栏的联系QQ进行咨询 4.本网站部分内容来自于其他网站平台的，版权归原网站所有，本网站只作信息记录，自己学习使用，特此申明，本站用户也不得使用此信息内容做其他商业用途。
白丁学者 » Python分词jieba模块的实例源码