推理系统和推理方法

公开了一种推理系统和推理方法。所述推理系统包括：第一服务器集群，被配置为：存储向量数据库中的多个向量；共享内存池，被配置为：存储与所述多个向量相关的多个细索引；以及第二服务器集群，包括服务器，其中，服务器被配置为：将用户输入的推理请求转换为推理向量；基于推理向量和根据所述多个向量生成的多个粗索引，从共享内存池获取所述多个细索引之中的一个或多个细索引；基于所述一个或多个细索引获取与推理向量最相似的至少一个向量；并且基于所述至少一个向量确定推理结果，其中，共享内存池与第一服务器集群和第二服务器集群分离。