后端开发
·09-21 21:44Day 11
✅ 今天做了:沉淀了agent loop
⏰ 明天计划:沉淀 tool system
📚 今日感悟:对话时用SSE而不用websocket是因为只需要模型来说,我们只用听。当使用CC的时候实现双向通信,本质上就是一次SSE后,我们执行y/n,cc调用本地的工具,将工具结果作为入参再去发送http给大模型,大模型开始第二次SSE。cc是边说边执行,但是是读操作的可以并发执行,但是写操作必须独立执行,需要其他操作执行完后,独立执行。模型如果流式请求挂了,就退避重试,超过最大重试次数就降级为非流式来发送请求,三次529后就降级模型再重试。agent退出可能是:完成;达到最大论限制;用户在模型输出时按ESC;用户在工具调用时按ESC;钩子触发停止;上下文快满了,拦截请求;上下文超了。
2
1
分享
操作
评论
相关内容
0个评论
全部评论
点击登录,快来和大家讨论吧~
表情
图片
暂无评论
