Position: Home > Articles > Recognition of Animal Drug Pathogenicity Named Entity Based on Att-Aux-BERT-BiLSTM-CRF
Transactions of the Chinese Society for Agricultural Machinery
2022,53
(3)
294-300
兽药致病命名实体Att-Aux-BERT-BiLSTM-CRF识别
作 者:
杨璐;张恬;郑丽敏;田立军
单 位:
中国农业大学信息与电气工程学院
关键词:
兽药致病;命名实体识别;注意力机制;BERT;深度学习
摘 要:
针对兽药致病知识图谱构建过程中,关于兽药命名实体识别使用传统方法依赖人工设计特征耗时耗力以及兽药致病语料数据量较少的问题,提出一种引入注意力机制(Attention)与辅助层分类(Auxiliary layer)相结合兽药文本命名实体识别模型(Att-Aux-BERT-BiLSTM-CRF).通过BERT预处理模型进行文本向量化,然后连接双向长短期记忆网络(Bi-directional long-short term memory,BiLSTM);引入注意力机制,将模型的BERT层输出用作辅助分类层,BiLSTM层输出作为主分类层(Mainlayer),通过注意力机制组合以提高整体性能;最后输入条件随机场(Conditional random field,CRF),构建端到端的适合于兽药领域实体识别的深度学习模型框架.实验选取兽药文本共10 643个句子、485 711个字符,针对动物、药物、不良反应、摄入方式4类实体进行识别.实验结果表明,本文模型能有效地辨别兽药致病文本中的实体,识别的F1值为96.7%.
译 名:
Recognition of Animal Drug Pathogenicity Named Entity Based on Att-Aux-BERT-BiLSTM-CRF