fourteenBDr
commited on
Commit
·
1d80c77
1
Parent(s):
9ee95da
Upload readme.md
Browse files
readme.md
ADDED
@@ -0,0 +1,121 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
# 中文文本分类数据集
|
2 |
+
|
3 |
+
数据来源:
|
4 |
+
|
5 |
+
今日头条客户端
|
6 |
+
|
7 |
+
|
8 |
+
|
9 |
+
数据格式:
|
10 |
+
|
11 |
+
```
|
12 |
+
6552431613437805063_!_102_!_news_entertainment_!_谢娜为李浩菲澄清网络谣言,之后她的两个行为给自己加分_!_佟丽娅,网络谣言,快乐大本营,李浩菲,谢娜,观众们
|
13 |
+
```
|
14 |
+
|
15 |
+
每行为一条数据,以`_!_`分割的个字段,从前往后分别是 新闻ID,分类code(见下文),分类名称(见下文),新闻字符串(仅含标题),新闻关键词
|
16 |
+
|
17 |
+
|
18 |
+
|
19 |
+
分类code与名称:
|
20 |
+
|
21 |
+
```
|
22 |
+
100 民生 故事 news_story
|
23 |
+
101 文化 文化 news_culture
|
24 |
+
102 娱乐 娱乐 news_entertainment
|
25 |
+
103 体育 体育 news_sports
|
26 |
+
104 财经 财经 news_finance
|
27 |
+
106 房产 房产 news_house
|
28 |
+
107 汽车 汽车 news_car
|
29 |
+
108 教育 教育 news_edu
|
30 |
+
109 科技 科技 news_tech
|
31 |
+
110 军事 军事 news_military
|
32 |
+
112 旅游 旅游 news_travel
|
33 |
+
113 国际 国际 news_world
|
34 |
+
114 证券 股票 stock
|
35 |
+
115 农业 三农 news_agriculture
|
36 |
+
116 电竞 游戏 news_game
|
37 |
+
```
|
38 |
+
|
39 |
+
|
40 |
+
|
41 |
+
数据规模:
|
42 |
+
|
43 |
+
共382688条,分布于15个分类中。
|
44 |
+
|
45 |
+
|
46 |
+
|
47 |
+
采集时间:
|
48 |
+
|
49 |
+
2018年05月
|
50 |
+
|
51 |
+
|
52 |
+
|
53 |
+
实验结果:
|
54 |
+
|
55 |
+
以0.7 0.15 0.15做分割。欢迎提交你使用本数据集的实验结果~
|
56 |
+
|
57 |
+
```
|
58 |
+
Test Loss: 0.57, Test Acc: 83.81%
|
59 |
+
|
60 |
+
precision recall f1-score support
|
61 |
+
|
62 |
+
news_story 0.66 0.75 0.70 848
|
63 |
+
|
64 |
+
news_culture 0.57 0.83 0.68 1531
|
65 |
+
|
66 |
+
news_entertainment 0.86 0.86 0.86 8078
|
67 |
+
|
68 |
+
news_sports 0.94 0.91 0.92 7338
|
69 |
+
|
70 |
+
news_finance 0.59 0.67 0.63 1594
|
71 |
+
|
72 |
+
news_house 0.84 0.89 0.87 1478
|
73 |
+
|
74 |
+
news_car 0.92 0.90 0.91 6481
|
75 |
+
|
76 |
+
news_edu 0.71 0.86 0.77 1425
|
77 |
+
|
78 |
+
news_tech 0.85 0.84 0.85 6944
|
79 |
+
|
80 |
+
news_military 0.90 0.78 0.84 6174
|
81 |
+
|
82 |
+
news_travel 0.58 0.76 0.66 1287
|
83 |
+
|
84 |
+
news_world 0.72 0.69 0.70 3823
|
85 |
+
|
86 |
+
stock 0.00 0.00 0.00 53
|
87 |
+
|
88 |
+
news_agriculture 0.80 0.88 0.84 1701
|
89 |
+
|
90 |
+
news_game 0.92 0.87 0.89 6244
|
91 |
+
|
92 |
+
avg / total 0.85 0.84 0.84 54999
|
93 |
+
|
94 |
+
|
95 |
+
|
96 |
+
以上Acc较低的原因:
|
97 |
+
|
98 |
+
1,数据不均衡,部分类目数据太少
|
99 |
+
|
100 |
+
2,部分分类之间本身模棱两可,例如故事、文化、旅行
|
101 |
+
|
102 |
+
详见text-class xxxx内代码
|
103 |
+
|
104 |
+
后续可以优化的地方:
|
105 |
+
|
106 |
+
1,更多的数据
|
107 |
+
|
108 |
+
2,更全的分类
|
109 |
+
|
110 |
+
因为分类不全,例如缺少美食等,导致实际使用时,分哪里都不对的情况出现。
|
111 |
+
|
112 |
+
3,更均衡的分类数据
|
113 |
+
|
114 |
+
4,引入正文
|
115 |
+
|
116 |
+
```
|
117 |
+
|
118 |
+
|
119 |
+
### NLP chat group
|
120 |
+
|
121 |
+
Welcome
|