生成式人工智能对社交机器人的影响与治理对策OA北大核心CHSSCDCSSCICSTPCD

[研究目的]生成式人工智能使作为社交媒体舆情传播核心的社交机器人具有更加强大的舆论操纵能力,且随着生成式人工智能的快速发展,社交机器人与人类在社交媒体中的活动更加难以区分,隐匿性更强,危害性更大,需要提早研究社交机器人的治理策略,以维护网络舆情安全和国家安全。[研究方法]结合生成式人工智能的特点,剖析了其对社交机器人操纵舆情能力的影响,采取“技术管控技术”的理念,提出基于生成式人工智能的社交机器人情报分析建模思路,在模型中增加向量数据库和本体推理,增强了模型的相似性检索、语义理解、多模态数据分析、动态数据更新以及少样本学习能力。[研究结论]通过将“大语言模型”和“知识图谱”进行深度融合,利用知识图谱中的知识减少大语言模型的“幻觉问题”。同时,利用大语言模型完善和补全知识图谱,增强了对社交媒体情报信息的检索和应用能力。在社交迷雾演化全生命周期提高了对社交媒体舆情,特别是社交机器人的监测识别、感知预警、追踪溯源和研判管控能力。