前缀调优的少样本命名实体识别OA北大核心CSTPCD
Few-Shot Named Entity Recognition with Prefix-Tuning
少样本命名实体识别通常使用基于相似性的度量,为了能够充分利用模型参数中的知识转移,提出一种前缀调优的少样本命名实体识别方法(P-NER).将输入文本的特征向量放入嵌入模块进行特征提取;把前缀提示的向量参数拼接到编码层模型的前端,并将编码层模型参数进行固定;对编码层得到的结果进行交叉熵模型的解码,并对每个训练样本采样两个子模型,通过最小化两个子模型之间相对熵的方式达到对模型预测进行正则化的目的;通过验证输出概率和真实标签概率来衡量模型对每个词的标签…查看全部>>
The commonly adopted approach for few-shot named entity recognition(NER)typically involves the use of similarity-based metrics.In order to fully leverage knowledge transfer within the model parameters,this paper proposes a prefix-tuning method for few-shot NER(P-NER).This involves placing the input text's feature vectors into an embedding module for feature extraction.The vector parameters of prefix prompts are concatenated to the front end of the encoding l…查看全部>>
吕海啸;李益红;周晓谊
海南大学 网络空间安全学院,海口 570228海南大学 网络空间安全学院,海口 570228海南大学 网络空间安全学院,海口 570228
计算机与自动化
命名实体识别(NER)少样本学习提示学习
named entity recognition(NER)few-shot learningprompt learning
《计算机科学与探索》 2024 (8)
2180-2189,10
海南省重点计划项目(ZDYF2022GXJS224)国家自然科学基金(62163010,62162021,62362025). This work was supported by the Key Plan Project of Hainan Province(ZDYF2022GXJS224),and the National Natural Science Founda-tion of China(62163010,62162021,62362025).
评论