csc_eval_public
一、测评数据说明
1.1 数据清洗
余-馀: 替换为馀-余
other - 馀: 替换为余
覆-复: 替换为复-覆
other-覆: # 答疆/回覆/反覆
# 覆审
他-她:不纠
她-他:不纠
人名不纠: 识别人名并丢弃
的得地: 建议丢弃(标注得不准)
# # 的 - 地
# # 的 - 得
# # 它 - 他
# # 哪 - 那
# # 改-大小改: 余-馀 覆-复 借-藉 功-工 琅-瑯 震-振 百-白 也-叶 经-禁(经不起-禁不起)
# # 部分不变(人名)： 小-晓 一-逸 佳-家 得-地(马哈得) 红-虹 民-明
# # 匹配上但是不改的： 惟-唯 象-像 查-察 立-利 止-只 建-健 他-它 地-的 定-订 带-戴 力-利 成-城 点-店
# # 匹配上但是不改的： 作-做 得-的 场-厂 身-生 有-由 种-重 理-里
# # 空白没匹配上： 今-在 年-今 前-目 当-在 目-在 者-是
# # 外国人名等：其-齐 课-科 博-波
1.2 代码
a00_csc_clean_public_wang271k.py
1.3 数据来源
test.json 和 dev.json 为 SIGHAN数据集， 包括SIGHAN13 14 15，来自 官方csc.html ，文件大小：339kb，4千条。
train.json 为 Wang271k数据集，包括 Wang271k ，来自 Automatic-Corpus-Generation dimmywang提供 ，文件大小：93MB，27万条。
二、论文
初始来源
论文
