针对大模型语义缓存的安全防护方法、装置、设备和存储介质
申请号:CN202510859040
申请日期:2025-06-24
公开号:CN120874106A
公开日期:2025-10-31
类型:发明专利
摘要
根据本公开的实施例,提供了针对大模型语义缓存的安全防护方法、装置、设备和存储介质。该方法包括:获取与大模型相关联的第一请求;响应于与大模型相关联的语义缓存中存在与第一请求匹配的第二请求,从语义缓存中获取第二请求对应的第一响应内容;基于第一请求与第一响应内容,确定第一响应内容是否满足预设的输出约束;响应于第一响应内容满足预设的输出约束,输出第一响应内容;或者响应于第一响应内容不满足预设的输出约束,输出由大模型基于第一请求所生成的第二响应内容。基于这样的方式,本公开的实施例可以通过验证第一响应内容是否满足预设的输出约束,来有效识别和阻止恶意注入的响应内容被输出,提高了信息处理的安全性。
技术关键词
语义
防护方法
计算机可执行指令
处理单元
输出模块
计算机程序产品
电子设备
信息处理
可读存储介质
存储器
处理器
风险