Java开发转型：大模型应用开发工程师（技能梳理 + 学习计划）—XMind思维导图Markdown

目标：大模型应用开发工程师

岗位交付形态

• 智能客服/知识库问答
• 文档/合同/报告分析
• 业务助手（工具调用：查库/调用内部API/工单）
• 流程自动化（审批、填单、对账）

核心关注点

• 业务价值（可落地）
• 可用性（正确率/稳定性）
• 可维护性（可观测/可评测/可迭代）
• 成本与延迟（token、QPS、缓存、模型路由）
• 安全合规（权限、脱敏、注入防护）

技能地图（需要掌握）

A. 通用基础（补齐短板）

网络与协议

• HTTP/HTTPS
• SSE/流式输出（前后端）
• WebSocket（可选）
• 超时/重试/幂等等工程策略

并发与性能

• 线程池/异步任务/队列
• 限流/熔断/降级
• 背压与资源隔离（防止LLM调用放大）

Linux & 工具

• Shell、Git、Docker
• CI/CD基础（GitHub Actions/Jenkins均可）

Python（建议掌握到可写服务）

• venv/poetry、pip
• FastAPI + pydantic
• requests/httpx、日志、单测pytest
• pandas/numpy（够用即可）

B. 大模型基础（必须懂原理与边界）

LLM核心概念

• Token、上下文窗口、system/user/assistant
• temperature/top_p
• 幻觉成因与缓解策略

Prompt Engineering

• 结构化提示：角色/任务/约束/输出格式
• Few-shot（了解与使用）
• 结构化输出：JSON Schema/严格格式
• Prompt版本管理（可追踪、可回滚）

安全与合规

• Prompt Injection（提示注入）与防护
• 敏感信息处理：脱敏、最小权限
• 内容安全：审计与拦截

C. 核心能力1：RAG（检索增强生成）

数据接入

• 文档：PDF/Word/Markdown/HTML
• 数据源：DB/工单/Confluence/飞书等

文档处理

• 清洗（去噪、去导航、去重复）
• Chunk策略：长度、重叠、按标题层级切分
• 元数据：来源、时间、权限、业务标签

向量化与索引

• Embedding模型选择（维度、成本、效果）
• 向量库（选1深耕）
  • pgvector（上手快）
  • Milvus（专业向量检索）
  • Elasticsearch（混合检索强）

检索策略

• 相似度检索（topK）
• MMR（多样性）
• 混合检索（BM25 + 向量）
• 重排 rerank（Cross-Encoder/LLM）

生成与引用

• 基于证据回答（引用片段、出处）
• 置信度与拒答策略（无证据不回答）
• 多轮对话检索：Query Rewrite/摘要记忆

评测与优化

• 离线评测集（问题-证据/标准答案）
• 指标：命中率、忠实度、可用率、延迟、成本
• 数据闭环：错误归因→改切分/改检索/改提示

D. 核心能力2：Agent与工具调用（Function Calling）

工具设计

• 工具Schema：参数校验、默认值、错误码
• 工具安全：只读优先、权限控制、审计
• 超时/重试/幂等/熔断

编排模式

• 串行/并行工具调用
• Tool-first（先查证据再回答）
• 状态管理：会话状态、任务状态机

适用边界

• 何时用Agent：任务不确定、步骤动态
• 何时不用：固定流程用工作流更稳

E. 工程化（生产落地关键）

API工程

• REST/gRPC、鉴权、RBAC、多租户
• 流式响应：SSE（推荐）
• 配额/计费（可选但加分）

成本与性能优化

• Token预算：截断、摘要、路由小模型
• 缓存：Embedding缓存、检索结果缓存、回答缓存
• 异步：队列、批处理（Embedding/索引）

可观测性与运维

• 日志：prompt/response/证据链（脱敏）
• 指标：QPS、延迟、token、命中率、错误率
• 链路追踪：LLM + 检索 + 工具全链路

测试与质量

• 单测/集成测试
• 回归集自动跑分（CI）
• 灰度发布、A/B测试、可回滚

F. 框架与生态（选型建议：少而精）

LLM编排框架（选1主修）

• Spring AI（Java友好，与你匹配）
• LangChain（生态大）
• LlamaIndex（RAG友好）

向量库（选1主修）

• pgvector / Milvus / Elasticsearch

评测与观测（选1-2）

• Langfuse（应用观测/回放/标注）
• OpenTelemetry（链路与指标）
• RAGAS（RAG评测思路）

G. 作品集（必须有可演示项目）

项目1：企业知识库RAG（必做）

• 文档接入→切分→向量库→检索→引用回答→后台管理

项目2：业务助手（工具调用）（必做）

• 至少3个工具：DB查询/内部HTTP API/搜索
• 权限 + 审计 + 错误处理

项目3：评测与监控平台（加分）

• 回归集、自动评测、成本/延迟看板、Prompt版本对比

12周学习计划（可执行）

第0周：环境与路线确认（2-3天）

• 选定LLM供应商API（任意一个）
• 选定向量库（推荐pgvector或Milvus）
• 搭建环境：Python + FastAPI + Docker（或Java + Spring Boot）
• 目标：跑通一次最小可用调用 + 流式输出

第1-2周：LLM API + Prompt基础

• 学习
  • Chat API、流式输出SSE
  • 结构化输出（JSON Schema）
  • 函数调用/工具调用基础
• 产出
  • 一个“流式对话API服务”
  • Prompt模板 + 版本管理（文件/DB均可）
  • 基础安全：日志脱敏、鉴权、限流

第3-5周：RAG全链路（重点）

• 学习
  • 文档解析、Chunk策略、Embedding
  • 检索：topK/MMR/混合检索
  • Rerank与引用回答
  • 多轮对话：Query Rewrite/摘要记忆
• 产出
  • “企业知识库RAG”Demo（可部署）
  • 指标采集：延迟、token、命中率、拒答率

第6-7周：Agent与工具调用（可控落地）

• 学习
  • Function Calling设计（schema/校验/错误处理）
  • 工具编排与状态管理
  • 安全：权限、审计
• 产出
  • “业务助手”Demo（3个工具以上）
  • 工具调用日志与可追踪链路

第8-9周：评测、监控与安全

• 学习
  • 评测集构建与离线评测（RAG评测方法）
  • 提示注入防护、敏感信息治理
  • Langfuse或OTel接入
• 产出
  • 回归集 + 自动化评测脚本（CI可跑）
  • 监控面板：QPS/延迟/token/错误率/命中率

第10-11周：生产化优化

• 学习
  • 缓存、异步队列、重试/熔断
  • 成本优化：模型路由、摘要、压缩上下文
  • 灰度发布与A/B
• 产出
  • 生产级API：支持灰度/回滚
  • 优化报告：成本/延迟对比（前后）

第12周：作品集包装与面试准备

• 输出
  • 3个项目README（架构图、数据流、关键决策、指标）
  • Demo演示脚本（5分钟/15分钟）
  • 面试题准备：RAG/向量检索/工具调用/安全/观测/成本

学习资源（按主题）

官方文档（优先）

• 你选定的LLM供应商API文档（Chat/Streaming/Function Calling）
• 向量库官方文档（pgvector/Milvus/ES）

框架文档

• Spring AI（Java路线推荐）
• LangChain / LlamaIndex（Python路线）

可观测/评测

• Langfuse文档
• OpenTelemetry文档
• RAGAS（评测方法与指标）