一次请求的判定路径

双阈值语义匹配:直接命中 / 灰区仲裁 / 未命中转发

一次请求的判定路径 双阈值语义匹配:直接命中 / 灰区仲裁 / 未命中转发 01 / HTTP 入口 02 / 语义判定 03 / 灰区仲裁 04 / 未命中路径 05 / 落盘 匹配 出结果 收请求 · 取最后一条 user 消息 · HTTP 入口 收请求 取最后一条 user 消息 返回客户端 · 命中读库,带 X-Cache 头 · HTTP 入口 › 出结果 返回客户端 命中读库,带 X-Cache 头 向量检索 · embedding + top-1 余弦 · 语义判定 › 匹配 向量检索 embedding + top-1 余弦 双阈值 · 0.70 / 0.30 · 语义判定 › 匹配 · 关卡 双阈值 0.70 / 0.30 关卡 小模型判同义 · 只答 YES / NO · 灰区仲裁 › 出结果 小模型判同义 只答 YES / NO 转发提供商 · 流式边转边缓冲 · 未命中路径 › 匹配 转发提供商 流式边转边缓冲 回写 · 响应 + prompt + 向量 · 落盘 › 出结果 回写 响应 + prompt + 向量 ≥ high 命中 灰区 < low YES 命中 NO 仅 200 透传 Legend 请求入口 缓存路径 判定关卡 持久化 上游生成