显式知识注入的任务型对话理解模型OA北大核心CSTPCD
传统对话理解模型依赖对话历史识别用户意图,由于缺乏丰富的知识信息,对生僻或特有内容的理解能力欠佳。通过隐式编码将知识加入模型的方法将知识注入与模型训练高度绑定,难以适应知识库的更新迭代,也会导致知识噪声,引入无关知识破坏原有语义。为解决上述问题,本文提出一种显式知识注入的多任务学习对话理解模型。将知识以自然语言形式插入到对话文本中,即插即用,满足知识源动态发展的需要;通过对话理解的主任务,关联知识识别的辅助任务,进行多任务学习,减少知识噪声。实验结果表明,与现有方法相比,本文提出的模型在意图识别和语义槽填充任务上的宏F_(1)值分别提升了4.87%和2.09%。
李帅鹏;王平辉;孙望淳;杨阳;杜友田;马小科;杜永杰;
西安交通大学智能网络与网络安全教育部重点实验室,西安710049西安电子科技大学计算机科学与技术学院,西安710049青岛海尔科技有限公司数字家庭网络国家工程研究中心,青岛266000
计算机与自动化
任务型对话理解知识库多任务学习
《数据采集与处理》 2024 (003)
P.668-677 / 10
国家重点研发计划(2021YFB1715600);国家自然科学基金(U22B2019,62272372)。
评论