專 欄
❈
Jerry，Python中文社区专栏作者。
blog：https://my.oschina.net/jhao104/blog
github：https://github.com/jhao104
❈
本文简要介绍Python自然语言处理(NLP)，使用Python的NLTK库。NLTK是Python的自然语言处理工具包，在NLP领域中，最常使用的一个Python库。
什么是NLP？
简单来说，自然语言处理(NLP)就是开发能够理解人类语言的应用程序或服务。
这里讨论一些自然语言处理(NLP)的实际应用例子，如语音识别、语音翻译、理解完整的句子、理解匹配词的同义词，以及生成语法正确完整句子和段落。
这并不是NLP能做的所有事情。
NLP实现
搜索引擎 : 比如谷歌，Yahoo等。谷歌搜索引擎知道你是一个技术人员，所以它显示与技术相关的结果；
社交网站推送 :比如Facebook News Feed。如果News Feed算法知道你的兴趣是自然语言处理，就会显示相关的广告和帖子。
语音引擎 :比如Apple的Siri。
垃圾邮件过滤 :如谷歌垃圾邮件过滤器。和普通垃圾邮件过滤不同，它通过了解邮件内容里面的的深层意义，来判断是不是垃圾邮件。
NLP库
下面是一些开源的自然语言处理库(NLP)：
- Natural language toolkit (NLTK);
- Apache OpenNLP;
- Stanford NLP suite;
- Gate NLP library
其中自然语言工具包(NLTK)是最受欢迎的自然语言处理库(NLP)，它是用Python编写的，而且背后有非常强大的社区支持。
NLTK也很容易上手，实际上，它是最简单的自然语言处理(NLP)库。
在这个NLP教程中，我们将使用Python NLTK库。
安装 NLTK
如果您使用的是Windows/Linux/Mac，您可以使用pip安装NLTK:
`pip install nltk`
打开python终端导入NLTK检查NLTK是否正确安装：
`import mltk`
如果一切顺利，这意味着您已经成功地安装了NLTK库。首次安装了NLTK，需要通过运行以下代码来安装NLTK扩展包:
import nltk
nltk . download ()
这将弹出NLTK 下载窗口来选择需要安装哪些包:
您可以安装所有的包，因为它们的大小都很小，所以没有什么问题。
使用Python Tokenize文本
首先，我们将抓取一个web页面内容，然后分析文本了解页面的内容。
我们将使用urllib模块来抓取web页面:
从打印结果中可以看到，结果包含许多需要清理的HTML标签。
然后BeautifulSoup模块来清洗这样的文字:
现在我们从抓取的网页中得到了一个干净的文本。
下一步，将文本转换为tokens,像这样:
统计词频
text已经处理完毕了，现在使用Python NLTK统计token的频率分布。
可以通过调用NLTK中的
FreqDist()
方法实现:
如果搜索输出结果，可以发现最常见的token是PHP。
您可以调用
plot
函数做出频率分布图:
这上面这些单词。比如
of
,
a
,
an
等等，这些词都属于停用词。
一般来说，停用词应该删除，防止它们影响分析结果。
处理停用词
NLTK自带了许多种语言的停用词列表，如果你获取英文停用词:
现在，修改下代码,在绘图之前清除一些无效的token:
最终的代码应该是这样的:
现在再做一次词频统计图，效果会比之前好些，因为剔除了停用词：
使用NLTK Tokenize文本
在之前我们用
split
方法将文本分割成tokens，现在我们使用NLTK来Tokenize文本。
文本没有Tokenize之前是无法处理的，所以对文本进行Tokenize非常重要的。token化过程意味着将大的部件分割为小部件。
你可以将段落tokenize成句子，将句子tokenize成单个词，NLTK分别提供了句子tokenizer和单词tokenizer。
假如有这样这段文本:
使用句子tokenizer将文本tokenize成句子:
输出如下:
这是你可能会想，这也太简单了，不需要使用NLTK的tokenizer都可以，直接使用正则表达式来拆分句子就行，因为每个句子都有标点和空格。
那么再来看下面的文本:
这样如果使用标点符号拆分,
Hello Mr
将会被认为是一个句子，如果使用NLTK:
输出如下:
这才是正确的拆分。
接下来试试单词tokenizer:
输出如下:
Mr.
这个词也没有被分开。NLTK使用的是punkt模块的PunktSentenceTokenizer，它是NLTK.tokenize的一部分。而且这个tokenizer经过训练，可以适用于多种语言。
长按扫描关注Python中文社区，
获取更多技术干货！
Python 中 文 社 区
Python中文开发者的精神家园
合作、投稿请联系微信：
pythonpost
— 人生苦短，我用Python —
1MEwnaxmMz7BPTYzBdj751DPyHWikNoeFS
本文为作者原创作品，未经作者授权同意禁止转载