知识图谱和大语言模型在航天测控问答系统中的融合应用研究OACSTPCD
随着自然语言处理技术的发展,智能化检索与问答系统不断发展,为改善传统知识图谱语义解析能力不足和当前通用大语言模型在垂直领域对知识学习不够深入的问题,提出了融合知识图谱的大语言模型方法,进行了两步优化:首先,利用知识图谱在命名实体识别和关系抽取的基础上,构建大模型提示Prompt模板,进行辅助增强生成,利用图谱中存储的数据提供相关来源;其次,利用低阶适应性微调(LoRA)策略冻结大模型原有参数,增加部分网络参数进行微调训练,优化模型在航天测控领域的知识储备与理解。通过两步改进提高了模型整体在语义解析和知识细节上的理解掌握,结合航天测控领域的相关教材、报告和手册等资料,搭建了知识问答系统,取得了较好的效果,说明了该方法具有一定的应用价值。
孙岩;周立新;孙连君;叶彬;王国林;
中国人民解放军63726部队,宁夏银川750004
计算机与自动化
知识图谱大语言模型两步优化低阶适应性微调(LoRA)Prompt模板航天测控
《上海航天(中英文)》 2024 (005)
P.178-184 / 7
省部级项目。
评论