我们使用用于句子分类任务的数据集对BERT (· bert-base-uncased) 模型进行了微调。CoLA数据集是有和没有语法错误的句子的混合。然后使用重新训练的模型来识别有或没有错误的句子。除了构建分类器之外，我们还有其他方法可以使用 BERT 吗？
使用 BERT 检测语法错误
数据挖掘
nlp
伯特
语法推理
2022-02-21 21:15:03
2个回答
当然，只要您使用的是预训练模型，您就可以使用 bert 预训练模型来建议没有注释数据的更正句子。这是一个很好的回购，显示它 https://github.com/sunilchomal/GECwBERT 希望它有所帮助
也许您可以将您的用例解释为命名实体识别问题。但为此，您需要先标记拼写错误的单词。
然后，您可以使用transformer训练 NER 模型。
其它你可能感兴趣的问题