hecongqing / 2018 Daguan Competition
Labels
Projects that are alternatives of or similar to 2018 Daguan Competition
2018年"达观杯"文本智能处理挑战赛-长文本分类-rank4
非常感谢达观杯给我们提供这次机会以及科赛平台提供了很棒的GPU，再次感谢。
赛题网址：
任务：
达观数据提供了一批长文本数据和分类信息，结合当下最先进的NLP和人工智能技术，深入分析文本内在结构和语义信息，构建文本分类模型，实现精准分类。
数据集
https://pan.baidu.com/s/13IMDPMz0rf8kM1JAea53uQ
password: y6m4
解决方案：
由于部分代码暂时有用，现在只公开一个单模型：B榜单模型分数可达到0.798.
对于这个文本分类任务，有个小的操作其实都可以达到很高的分数，即使模型不够优秀。通过对于词向量做一个增强，即利用word2vec与glove的差异性，构建一个鲁棒性更高的词语向量表征。大家也可以试试word2vec+glove+faxttext的组合，对于我来说，效果并不是很好，我觉得可能的原因是faxttext与word2vec的相似性很高，弱化了glove的向量表征，同时，对于glove单独的词向量我也没有尝试过，大家也可以尝试一下。
对于模型的话，我开源了一个双层的biGruModel模型，最近也开源了rnnCapsuleModel，希望大家可以取得更好的成绩！
运行环境
-
tensorflow-gpu>=1.10.0
-
keras==2.16.0
-
gensim==3.6.0
-
scikit-learn==0.20.2
模型运行：
1、将原始数据集input到data文件夹
2、运行 python read_data.py,从而将原始数据的csv格式转化为feather格式（因为feather格式读取数据较快）
3、由于应用到glove算法生成词向量和字向量，且没有python接口，我们使用斯坦福大学开源的C语言版本的glove库。
生成词向量
（1）python glove_word.py (生成glove所需要的格式的词向量)
（2） make & sh glove_word.sh (生成词向量)
（3）将生成的词向量(glove_vectors_word.txt)放入embedding 文件夹下
python glove_word.py
make & sh glove_word.sh
生成字向量
（1）python glove_char.py (生成glove所需要的格式的字向量)
（2） make & sh glove_char.sh (生成字向量)
（3）将生成的词向量(glove_vectors_char.txt)放入embedding 文件夹下
python glove_char.py
make & sh glove_char.sh
4、运行模型：
biGruModel:
CUDA_VISIBLE_DEVICES=0 python main_glove_word2vec.py --gpu="0" --column_name="word_seg" --word_seq_len=1800 --embedding_vector=200 --num_words=500000 --model_name="bi_gru_model" --batch_size=128 --KFold=10 --classification=19
rnnCapsuleModel:
CUDA_VISIBLE_DEVICES=0 python main.py --gpu="0" --column_name="word_seg" --word_seq_len=1800 --embedding_vector=200 --num_words=500000 --model_name="Gru_Capsule_Model" --batch_size=128 --KFold=10 --classification=19
备注：如果gpu 较小，batch_size 可以设置较小一点
所有的命令都封装在 sh run.sh （很简单一个命令）！
sh run.sh
大概的先介绍到这里，有时间在介绍啦！
下面打个小广告啦！最近开了个公众号，希望和大家一起学习，成长。
关于我们
AI算法之心是一个介绍python、pyspark、机器学习、自然语言处理、深度学习、算法竞赛的平台。不管你是刚入门的小白，还是资深的算法大佬，欢迎扫一扫下方的二维码与我们在AI的领域中一起学习成长！
