摘要
本发明公开了一种基于大语言模型的长对话用户行为分析方法;包括用户行为分析大模型模块、长对话嵌入压缩记忆模块和领域特定检索增强微调模块。用户行为分析大模型模块基于大语言模型对用户之间的长对话进行分析,对用户的行为进行研判;通过对基于Transformer架构的大语言模型引入长对话嵌入压缩记忆模块,结合掩码局部注意力和长期线性注意力机制,使用户行为分析大模型模块能够以有限的内存和计算资源处理长对话;领域特定检索增强微调模块通过结合指令微调和检索增强生成,用于提升大语言模型在特定法律领域的用户行为分析能力。