MacBERT for Chinese Spelling Correction(macbert4csc) Model 中文拼写纠错模型 macbert4csc base chinese evaluate SIGHAN2015 test data： Correct Precision Correct Recall Correct F1 Chararcter level 93.72 86.40 89.91 Sentence level 82.64 73.66 77.89 由于训练使用的数据使用了SIGHAN2015的训练集（复现paper），在SIGHAN2015的测试集上达到SOTA水平。 模型结构，魔改于softmaskedbert： Usage 本项目开源在中文文本纠错项目：pycorrector，可支持macbert4csc模型，通过如下命令调用： 当然，你也可使用 transformers 调用： output: 模型文件组成： 训练数据集 SIGHAN+Wang271K中文纠错数据集 数据集 语料 下载链接 压缩包大小 : : : : : : SIGHAN+Wang271K中文纠错数据集 SIGHAN+Wang271K(27万条) 百度网盘（密码01b9） 106M 原始SIGHAN数据集 SIGHAN13 14 15 官方csc.html 339K 原始Wang271K数据集 Wang271K Automatic Corpus Generation dimmywang提供 93M SIGHAN+Wang271K中文纠错数据集，数据格式： 如果需要训练macbert4csc，请参考https://github.com/shibing624/pycorrector/tree/master/pycorrector/macbert About MacBERT MacBERT is an improved BERT with novel M LM a s c orrection pre training task, which mitigates the discrepancy of pre training and fine tuning. Here is an example of our pre training task. task Example Original Sentence we use a language model to predict the probability of the next word. MLM we use a language [M] to [M] di ct the pro [M] bility of the next word . Whole word masking we use a language [M]…
We use cookies for essential functionality and analytics. You can accept or reject analytics cookies.Cookie policy