基于BERT的医疗电子病历命名实体识别OA
Named Entity Recognition of Electronic Medical Records Based on BERT
针对中文医疗电子病历命名实体识别中,传统的字或词向量无法很好地表示上下文语义以及传统RNN并行计算能力不足等问题,提出了一个基于BERT的医疗电子病历命名实体识别模型.该模型中的BERT预训练语言模型可以更好地表示电子病历句子中的上下文语义,迭代膨胀卷积神经网络(IDCNN)对局部实体的卷积编码有更好的识别效果,多头注意力(MHA)多次计算每个字和所有字的注意力概率以获取电子病历句子的长距离依赖.实验结果表明,BERT-IDCNN-MHA-CRF…查看全部>>
梁文桐;朱艳辉;詹飞;冀相冰
湖南工业大学计算机学院,湖南株洲 412007湖南工业大学智能信息感知及处理技术湖南省重点实验室,湖南株洲 412007湖南工业大学计算机学院,湖南株洲 412007湖南工业大学智能信息感知及处理技术湖南省重点实验室,湖南株洲 412007
信息技术与安全科学
电子病历命名实体识别BERT膨胀卷积神经网络多头注意力
《湖南工业大学学报》 2020 (4)
54-62,9
科技创新2030——"新一代人工智能"基金资助重大项目(2018AAA0100400),国家自然科学基金资助项目(61702177),湖南省自然科学基金资助项目(2018JJ2098,2020JJ6089),湖南省教育厅基金资助重点项目(19A133)
评论