基于prompt tuning的中文文本多领域情感分析研究OA北大核心CSTPCD
不同领域的情感文本表达方式不一样,通常需要为各个领域训练相应的情感分析模型。针对无法用一个模型进行高效多领域情感分析的问题,提出了基于提示微调(prompt tuning)的多领域文本情感分析方法MSAPT。借助hard prompt,指示情感文本的所属领域和待选的情感标签,调动不同领域情感分析相关的知识,再为情感分析预训练一个统一的“通才模型”,在下游的各领域文本学习中,保持模型冻结,通过prompt tuning使模型学习到下游各领域情感文本的特征。MSAPT仅需保存一个模型和一些参数量远远小于模型的prompt,实现了多领域情感分析。在多个属于不同领域的情感文本数据集上进行实验,结果表明仅进行prompt tuning时,MSAPT效果优于模型微调(model tuning)的。最后,分别对适应特定领域的prompt tuning、hard prompt、soft prompt的长度和中间训练数据集的大小进行消融实验,从证明其对情感分析效果的影响。
赵文辉;吴晓鸰;凌捷;HOON Heo;
广东工业大学计算机学院,广东广州510006三星电机,韩国水原16674
计算机与自动化
多领域情感分析提示微调预训练语言模型T5
《计算机工程与科学》 2024 (001)
P.179-190 / 12
广东省国际科技合作领域项目(2019A050513010);工业装备质量大数据工业和信息化部重点实验室开放课题(2021-1EQBD-02)。
评论