向AI转型的程序员都关注了这个号 👇👇👇
机器学习AI算法工程 公众号：datayx
基于谷歌开源的BERT编写的文本分类器（基于微调方式），可自由加载NLP领域知名的预训练语言模型BERT、 Bert-wwm、Roberta、ALBert以及ERNIE1.0.
该项目支持两种预测方式：
（1）线下实时预测
（2）服务端实时预测
本文项目代码 获取方式：
关注微信公众号 datayx 然后回复 文本分类 即可获取。
AI项目体验地址 https://loveai.tech
项目说明
主要分为两种运行模式：
模式1：线下实时预测
step1:数据准备
step2:模型训练
step3:模型导出
step4:线下实时预测
模式2：服务端实时预测 step1:数据准备
step2:模型训练
step3:模型转换
step4:服务部署
step5:应用端
注意事项
1.如果你只是想体验从模型训练到本地线下预测这一套流程，只需要按照模式1依次执行即可
2.若你想想体验从模型训练到模型部署整个流程，则需要按照模式2依次执行
下面将针对以上两个模式的运行方式进行详细说明。
模式1：线下实时预测
Step1：数据准备
为了快速实验项目效果，这里使用了样本规模较小的手机评论数据，数据比较简单，有三个分类：-1（差评）、0（中评）、1（好评），数据样例如下所示：
ps:本项目中已将其拆分成了train.tsv、dev.txv、test.tsv三个文件
Step2:模型训练
训练命令：
详细说明：训练模型直接使用bert微调的方式进行训练，对应的程序文件为run_classifier_serving.py。关于微调bert进行训练的代码网上介绍的 很多，这里就不一一介绍。主要是创建针对该任务的Processor即：SentimentProcessor，在这个processor的_create_examples()和get_labels()函数自定义，如下所示：
注意，此处作出的一个特别变动之处是在conver_single_example()函数中增加了一段保存label的代码，在训练过程中在保存的模型路径下生成label2id.pkl文件，代码如下所示：
会在指定的exported目录下生成以一个时间戳命名的模型目录。
详细说明：run_classifier.py 主要设计为单次运行的目的，如果把 do_predict 参数设置成 True，倒也确实可以预测，但输入样本是基于文件的，并且不支持将模型持久化在内存里进行 serving，因此需要自己改一些代码，达到两个目的：
（1）允许将模型加载到内存里，即：允许一次加载，多次调用。
（2）允许读取非文件中的样本进行预测。譬如从标准输入流读取样本输入。
Step4：线下实时预测
运行test_serving.py文件，即可进行线下实时预测。
运行效果如下所示：
模式2：服务端实时预测
架构说明：
BERT模型服务端：加载模型，进行实时预测的服务；使用的是 BERT-BiLSTM-CRF-NER提供的bert-base；
API服务端：调用实时预测服务，为应用提供API接口的服务，用flask编写；
应用端：最终的应用端；我这里为了简便，并没有编写网页，直接调用了api接口。
Step1:数据准备
同模式1中的Step1介绍。
Step2:模型训练
同模式1中的Step2介绍。
Step3:模型转换
运行如下命令：
注意 ：
port 和 port_out 这两个参数是API调用的端口号，默认是5555和5556,如果你准备部署多个模型服务实例，那一定要指定自己的端口号，避免冲突。我这里是改为：5575 和 5576
如果报错没运行起来，可能是有些模块没装上,都是 bert_base/server/http.py里引用的，装上就好了：
阅读过本文的人还看了以下文章：
《深度学习入门：基于Python的理论与实现》高清中文PDF+源码
2019最新《PyTorch自然语言处理》英、中文版PDF+源码
《21个项目玩转深度学习：基于TensorFlow的实践详解》完整版PDF+附书代码
PyTorch深度学习快速实战入门《pytorch-handbook》
【下载】豆瓣评分8.1,《机器学习实战:基于Scikit-Learn和TensorFlow》
李沐大神开源《动手学深度学习》，加州伯克利深度学习（2019春）教材
【Keras】完整实现‘交通标志’分类、‘票据’分类两个项目，让你掌握深度学习图像分类
如何利用全新的决策树集成级联结构gcForest做特征工程并打分？
Machine Learning Yearning 中文翻译稿
斯坦福CS230官方指南：CNN、RNN及使用技巧速查（打印收藏）
中科院Kaggle全球文本匹配竞赛华人第1名团队-深度学习与特征工程
不断更新资源
深度学习、机器学习、数据分析、python
搜索公众号添加： datayx
长按图片，识别二维码，点关注
机器学习算法资源社群
不断上传电子版PDF资料
技术问题求解
QQ群号： 333972581
长按图片，识别二维码