风里落花在我完成了一个最新的 RAG 项目 —— 从零构建企业级知识库平台的完整历程下的评论详情

「风里落花」在《我完成了一个最新的 RAG 项目 —— 从零构建企业级知识库平台的完整历程》下的评论详情
风里落花
@执笔经年 您好,我分析了一下代码,我发现设计和你的文档中有点出入,如下: 1.summaryText 将较早的历史消息(保留最近 N 条)拼接成纯文本摘要,不调用 LLM,仅做截取和格式化, 后续对话并没有将其发给LLM。生成sessionMemory的时候,也并没有依赖summaryText 和文档中的不太相符;仅通过 /api/assistant/sessions/{sessionId}/context 接口返回给前端 2.compactSummary 生成后 没有对 sessionMem...
展开
06-04 14:57
1条回复
执笔经年
确实,在 AssistantSessionSummaryService#buildSummaryText 中,summaryText 的生成仅仅是纯 Java 内存中的本地格式化拼接。它限制单条消息最大 160 字符,总限制 2000 字符,格式为 - 用户: xxx \n - 助手: xxx,未经过任何 LLM 提炼。 在 ReactAgent 模型调用前的拦截器 AssistantShortTermMemoryHook#assembleBeforeModelMessages 中,代码组装发...
展开
06-04 16:02
下载 APP