王保保
后端开发
·01-21 11:25
Java开发转AI大模型(集成LangChain+Spring AI)学习方案 一、大模型基础认知 1、Tokenizer、Embedding、上下文窗口、温度系数、Top-K/Top-P、基础提示词工程 大模型基础(通用) 能解释各概念作用,独立编写3-5步基础提示词,区分温度系数对结果的影响 2、大模型调用模式(API/本地/私有化部署) 大模型基础(通用) 能用Python/Java调用API,说明不同部署模式优缺点,了解本地轻量模型部署流程 二、LangChain核心能力 1、核心模块(Model I/O、Chains、Retrievers、Memory、Agents) 通用框架特性 能绘制模块关系图,明确各模块作用,对比Spring AI对应组件差异 2、Model I/O(LLM/ChatModel区别、PromptTemplate)、Memory(会话记忆类型) 通用框架特性 实现动态提示词生成、带记忆的对话机器人,区分LLM与ChatModel调用逻辑 3、LCEL(LangChain表达式语言)、Agent ReAct模式 LangChain特有 用LCEL自定义链,实现Agent调用自定义工具,理解ReAct思考流程 4、日志可观测性、护轨(Guardrail)、MCP协议 LangChain特有 5、集成日志监控,用护轨拦截违规内容,理解MCP上下文传递规范 6、多智能体(Multi-Agent)系统设计 LangChain特有 实现多Agent分工协作,完成复杂任务拆解与执行 三、RAG核心流程(跨框架通用) 7 文档加载与处理(Loaders、Text Splitters) 通用框架特性 标准:加载PDF/TXT文档,按语义拆分文本块,避免语义割裂 8 Embedding与向量数据库(FAISS/Chroma/Milvus) 通用框架特性 标准:完成“向量化→入库→相似检索”全流程,优化检索准确性 9 RAG链搭建(RetrievalQA、对话式RAG) 通用框架特性 标准:实现文档问答机器人,排查幻觉、检索失效等问题 四、Spring AI(Java侧) 10 核心概念与自动配置、ChatClient/PromptTemplate Spring AI特有 标准:搭建Spring Boot+Spring AI项目,实现基础模型调用与动态提示词 11 Spring AI RAG集成(向量库对接、检索增强) Spring AI特有 标准:完成Java侧RAG全流程,编写问答接口 12 Java-Python协同方案(REST/gRPC) Spring AI特有(跨语言) 标准:实现Java调用Python LangChain服务,处理跨语言异常 五、工程化落地 13 调用优化(限流、重试、缓存) 大模型基础(通用) 标准:添加限流重试机制,用Redis缓存Embedding结果,降低成本 14 私有化部署适配(本地模型对接) 大模型基础(通用) 标准:对接Ollama部署的Llama 3,切换LangChain/Spring AI的模型源 15 服务化部署(Docker、微服务封装) 大模型基础(通用) 标准:容器化打包应用,部署微服务并配置监控告警
0个评论
点击登录,快来和大家讨论吧~
表情
图片
暂无评论
下载 APP