Day5
AI大模型应用开发核心技术与专有名词手册
(按技术领域分类,含英文缩写、全称、中文释义,适配Java工程师转型场景) https://learn.lianglianglee.com/
一、核心基础概念
| 英文缩写 | 英文全称 | 中文释义 |
|---|---|---|
| AI | Artificial Intelligence | 人工智能:利用计算机模拟人类智能(推理、学习、决策等)的技术总称 |
| ML | Machine Learning | 机器学习:AI的核心分支,通过数据训练模型,使计算机具备自主学习能力(无需显式编程) |
| DL | Deep Learning | 深度学习:ML的子集,基于神经网络(多层结构)处理复杂数据(图像、文本等),是大模型的技术基础 |
| NLP | Natural Language Processing | 自然语言处理:AI的重要分支,研究计算机与人类语言的交互(理解、生成、翻译等),大模型应用核心场景 |
| NLU | Natural Language Understanding | 自然语言理解:NLP的子领域,专注于计算机对人类语言的语义、意图解析(如用户指令识别) |
| NLG | Natural Language Generation | 自然语言生成:NLP的子领域,专注于计算机生成符合人类语言习惯的文本(如大模型对话、文案生成) |
| LLM | Large Language Model | 大型语言模型:基于海量文本数据训练的大参数语言模型(如GPT、LLaMA),具备强大的NLU和NLG能力 |
| Foundation Model | Foundation Model | 基础模型:通过大规模通用数据训练,可适配多种下游任务(如LLM、多模态模型)的通用AI模型 |
| Token | Token | 词元:文本处理的基本单位(可是单词、字、子词),大模型计算和理解文本的最小单元(如“人工智能”可拆分为2个Token) |
| Tokenization | Tokenization | 词元化:将原始文本拆分为Token的过程(大模型输入处理的第一步),常用工具如BPE、WordPiece |
二、模型类型与训练技术
| 英文缩写 | 英文全称 | 中文释义 |
|---|---|---|
| GPT | Generative Pre-trained Transformer | 生成式预训练Transformer:基于Transformer架构的生成式LLM,通过预训练+微调实现文本生成(OpenAI核心模型系列) |
| BERT | Bidirectional Encoder Representations from Transformers | 双向Transformer编码器表示:基于Transformer双向编码的模型,擅长NLU任务(如分类、问答),非生成式 |
| T5 | Text-to-Text Transfer Transformer | 文本到文本转换Transformer:将所有NLP任务统一为“文本输入→文本输出”格式的通用模型(如翻译、摘要、问答) |
| LLama | Large Language Model Meta AI | Meta推出的开源LLM系列(如LLama 2、LLama 3),支持商用,可本地部署和二次开发 |
| Claude | Claude | Anthropic推出的LLM,以安全性和长上下文窗口为核心优势(支持100k+Token上下文) |
| PaLM | Pathways Language Model | Google推出的大语言模型,基于Pathways架构,支持多语言和复杂推理任务 |
| Multimodal Model | Multimodal Model | 多模态模型:支持多种数据类型(文本、图像、音频、视频)输入输出的模型(如GPT-4V、Gemini) |
| RLHF | Reinforcement Learning from Human Feedback | 基于人类反馈的强化学习:大模型对齐人类偏好的核心技术,通过“预训练→监督微调→RLHF”三步优化模型输出 |
| SFT | Supervised Fine-Tuning | 监督微调:使用标注数据(输入→期望输出)对预训练大模型进行微调,使其适配特定任务(如客服对话、代码生成) |
| LoRA | Low-Rank Adaptation | 低秩适配:高效微调技术,通过冻结预训练模型权重,仅训练少量低秩矩阵参数,降低微调成本(Java开发中集成微调常用) |
| QLoRA | Quantized LoRA | 量化低秩适配:LoRA的优化版本,结合模型量化(如4bit/8bit),进一步降低微调的显存占用,适合本地部署场景 |
| PEFT | Parameter-Efficient Fine-Tuning | 参数高效微调:一类大模型微调技术的总称(含LoRA、Adapter等),核心是仅训练少量参数实现模型适配 |
| Prompt Tuning | Prompt Tuning | 提示微调:通过在输入中添加特定提示(Prompt),结合少量参数训练,使模型适配下游任务的微调方式 |
| In-Context Learning | In-Context Learning | 上下文学习:LLM的核心能力,无需微调,仅通过在输入中提供示例或指令,即可完成特定任务(如“请模仿以下格式总结文本:XXX”) |
| Few-Shot Learning | Few-Shot Learning | 少样本学习:仅需少量标注示例(如3-5个),模型即可完成任务(依赖In-Context Learning能力) |
| Zero-Shot Learning | Zero-Shot Learning | 零样本学习:无需标注示例,仅通过自然语言指令,模型即可完成从未训练过的任务(如“用日语翻译‘你好’”) |
三、核心技术架构与机制
| 英文缩写 | 英文全称 | 中文释义 |
|---|---|---|
| Transformer | Transformer | Transformer架构:2017年提出的深度学习架构,基于自注意力机制,是所有现代LLM的核心基础(替代RNN、LSTM) |
| Self-Attention | Self-Attention | 自注意力机制:Transformer的核心组件,使模型能关注输入文本中不同词元的关联关系(如“他”指代前文的“小明”) |
| Cross-Attention | Cross-Attention | 交叉注意力机制:多模态模型或序列到序列任务中,使模型关注两种不同输入的关联(如文本→图像生成中,文本与图像特征的对齐) |
| Attention Mask | Attention Mask | 注意力掩码:控制模型在计算注意力时“看不到”某些Token(如屏蔽Padding Token、实现因果掩码确保生成式模型不偷看未来Token) |
| Positional Encoding | Positional Encoding | 位置编码:为Token添加位置信息的技术(Transformer本身无顺序感知能力),使模型理解文本的语序 |
| Feed-Forward Network | Feed-Forward Network | 前馈神经网络:Transformer中的核心组件(注意力层后),对每个Token的特征进行非线性转换,增强模型表达能力 |
| Decoder | Decoder | 解码器:Transformer的组成部分,用于生成式任务(如LLM),通过因果掩码确保自回归生成(逐词生成) |
| Encoder | Encoder | 编码器:Transformer的组成部分,用于理解式任务(如BERT),双向编码文本特征,无因果限制 |
| Autoregressive Generation | Autoregressive Generation | 自回归生成:生成式模型的核心生成方式,逐Token生成文本,每个Token的生成依赖前序Token(如GPT系列的生成机制) |
| Non-Autoregressive Generation | Non-Autoregressive Generation | 非自回归生成:一次性生成多个Token或完整文本,生成速度更快,但准确性和连贯性通常低于自回归(适用于实时性要求高的场景) |
| Embedding | Embedding | 嵌入/词嵌入:将离散的Token转换为连续的低维向量(如Word2Vec、BERT Embedding),使模型能数值化理解文本 |
| Context Window | Context Window | 上下文窗口:LLM能处理的最大输入Token长度(如GPT-4 Turbo支持128k Token),决定模型能“记住”的上下文长度 |
| Context Length | Context Length | 上下文长度:同Context Window,即模型的输入上限长度(超过需分段处理) |
四、应用开发核心技术
| 英文缩写 | 英文全称 | 中文释义 |
|---|---|---|
| RAG | Retrieval-Augmented Generation | 检索增强生成:核心应用架构,通过“检索外部知识库→将相关信息作为Prompt输入LLM→生成回答”,解决LLM知识时效性、准确性问题(Java开发最常用的大模型应用架构) |
| Vector DB | Vector Database | 向量数据库:专门存储和检索Embedding向量的数据库(如Milvus、Pinecone、Chroma),支持相似性查询(RAG架构的核心组件) |
| Embedding Model | Embedding Model | 嵌入模型:用于将文本、图像等数据转换为Embedding向量的模型(如Sentence-BERT、OpenAI Embeddings、阿里通义Embedding) |
| Prompt Engineering | Prompt Engineering | 提示工程:设计和优化Prompt(输入指令),使LLM更准确、高效地完成任务(无需修改模型,纯输入优化) |
| Chain | Chain | 链:将多个LLM调用、工具调用、数据处理步骤串联起来的流程(如LangChain中的核心概念,实现复杂任务拆解) |
| Agent | Agent | 智能体:具备自主决策能力的AI系统,能理解任务、规划步骤、调用工具(LLM+工具+记忆),可独立完成复杂任务(如自动写代码、数据分析) |
| Tool Calling | Tool Calling | 工具调用:LLM的能力,能识别用户需求并调用外部工具(API、数据库、计算器等)获取结果,再生成最终回答(如“查询今日天气并总结”) |
| Function Calling | Function Calling | 函数调用:Tool Calling的具体实现形式,LLM通过识别函数定义(名称、参数),生成符合格式的函数调用请求,由应用程序执行后返回结果 |
| LangChain | LangChain | 大模型应用开发框架:提供Chain、Agent、Tool、向量存储集成等组件,简化LLM应用开发(Java有对应LangChain4j框架) |
| LlamaIndex | LlamaIndex | 数据框架:专注于大模型与私有数据的集成,优化文档加载、分割、索引构建,适配RAG架构(辅助LangChain使用) |
| LangSmith | LangSmith | LangChain生态的调试、监控工具,用于跟踪LLM调用流程、评估输出质量、优化Prompt和Chain |
| API Gateway | API Gateway | API网关:大模型应用的入口层,负责请求路由、限流、认证、日志记录(Java开发中常用Spring Cloud Gateway适配) |
| Fine-Tuning Pipeline | Fine-Tuning Pipeline | 微调流水线:大模型微调的全流程工具链(数据准备、模型加载、训练、评估、部署),如Hugging Face Transformers |
五、部署与运维技术
| 英文缩写 | 英文全称 | 中文释义 |
|---|---|---|
| MLOps | Machine Learning Operations | 机器学习运维:将DevOps理念应用于AI模型,覆盖模型开发、训练、部署、监控、迭代的全生命周期管理 |
| AIOps | Artificial Intelligence for IT Operations | 智能运维:利用AI技术(如LLM)优化IT运维流程(如日志分析、故障诊断、自动修复) |
| Model Serving | Model Serving | 模型服务化:将训练好的大模型封装为API接口(如REST、gRPC),供应用程序调用(Java开发中需对接的核心环节) |
| TensorRT | TensorRT | NVIDIA推出的深度学习推理优化引擎,可加速LLM在GPU上的推理速度(提升吞吐量、降低延迟) |
| ONNX | Open Neural Network Exchange | 开放神经网络交换格式:跨框架的模型格式标准,可将PyTorch、TensorFlow训练的模型转换为ONNX,便于部署和优化 |
| TorchServe | TorchServe | PyTorch官方的模型服务化工具,支持将PyTorch模型快速部署为REST/gRPC API |
| vLLM | vLLM | 高性能LLM推理引擎:基于PagedAttention技术,大幅提升LLM的推理吞吐量和响应速度(支持本地部署大模型) |
| Text Generation Inference | Text Generation Inference | Hugging Face推出的LLM推理引擎,优化生成式模型的部署(支持动态批处理、张量并行) |
| Quantization | Quantization | 模型量化:将模型权重从高精度(如FP32)转换为低精度(如INT8、FP16、4bit),降低显存占用和推理延迟(本地部署必备技术) |
| FP16 | Float 16 | 半精度浮点数:模型量化的常用精度,显存占用仅为FP32的一半,推理速度提升,精度损失较小 |
| INT8 | Integer 8 | 8位整数:模型量化的常用精度,显存占用大幅降低(FP32的1/4),适合低资源环境部署(如CPU、边缘设备) |
| 4bit Quantization | 4bit Quantization | 4位量化:更极致的量化技术(如GPTQ、AWQ算法),显存占用进一步降低,适合本地部署大参数量模型(如70B、175B) |
| Containerization | Containerization | 容器化:将大模型服务、依赖环境打包为Docker容器,实现环境一致性和快速部署(Java微服务架构常用) |
| Kubernetes | Kubernetes | K8s:容器编排平台,用于管理大规模容器化的大模型服务(负载均衡、自动扩缩容、故障恢复) |
| Load Balancing | Load Balancing | 负载均衡:在多个大模型推理节点间分配请求,避免单点过载,提升系统吞吐量(Java开发中常用Nginx、K8s Service实现) |
| Monitoring | Monitoring | 模型监控:跟踪大模型服务的性能(延迟、吞吐量)、输出质量(准确性、相关性)、资源占用(CPU/GPU/内存) |
| Drift | Drift | 模型漂移:模型在实际使用中,因数据分布变化(数据漂移)或任务场景变化(概念漂移),导致性能下降的现象(需定期更新模型) |
六、伦理与安全相关
| 英文缩写 | 英文全称 | 中文释义 |
|---|---|---|
| AI Alignment | AI Alignment | AI对齐:使大模型的行为和目标与人类价值观、需求保持一致(避免生成有害、偏见内容) |
| Safety | Safety | 模型安全:确保大模型不被滥用(如生成恶意代码、虚假信息),不生成有害内容(暴力、歧视、隐私泄露) |
| Moderation | Content Moderation | 内容审核:对大模型的输入和输出进行过滤,拦截有害、违规内容(如色情、暴力、仇恨言论) |
| Hallucination | Hallucination | 模型幻觉:大模型生成不存在、不准确的信息(如虚假事实、错误引用),是大模型应用的核心风险点(需通过RAG、事实核查缓解) |
| Bias | Bias | 模型偏见:大模型因训练数据中存在的偏见(如性别、种族歧视),导致生成带有偏见的内容 |
| Privacy Preservation | Privacy Preservation | 隐私保护:在大模型训练和应用中,保护用户隐私数据(如不泄露训练数据中的个人信息、使用联邦学习/差分隐私技术) |
| GDPR | General Data Protection Regulation | 通用数据保护条例:欧盟的隐私保护法规,对AI模型的数据收集、使用、存储有严格要求(跨国应用需合规) |
| Compliance | Compliance | 合规性:大模型应用需符合当地法律法规(如数据隐私、内容安全、知识产权) |
七、常用工具与平台
| 英文缩写 | 英文全称 | 中文释义 |
|---|---|---|
| Hugging Face | Hugging Face | 开源AI社区与平台:提供海量预训练模型(Transformers库)、数据集、训练/部署工具(Java可通过Hugging Face Java SDK对接) |
| OpenAI API | OpenAI API | OpenAI提供的大模型调用接口(如GPT-3.5/4、Embeddings),支持文本生成、嵌入转换等功能(Java需通过HTTP客户端调用) |
| LangChain4j | LangChain4j | LangChain的Java版本:专为Java开发者设计的大模型应用开发框架,支持与Spring Boot集成,适配Java生态 |
| Spring AI | Spring AI | Spring官方推出的AI应用开发框架,简化Java应用与大模型(OpenAI、本地LLM)、向量数据库的集成 |
| Milvus | Milvus | 开源向量数据库:支持大规模Embedding向量存储与相似性查询,适配RAG架构(Java有官方SDK) |
| Pinecone | Pinecone | 托管式向量数据库:无需自建运维,提供API接口,适合快速搭建RAG应用 |
| Chroma | Chroma | 轻量级开源向量数据库:部署简单,适合开发测试和小规模应用 |
| Weaviate | Weaviate | 开源向量数据库:支持多模态数据(文本、图像),内置语义搜索功能 |
| Docker | Docker | 容器化工具:打包大模型服务及依赖环境,确保开发、测试、生产环境一致 |
| NVIDIA GPU | NVIDIA GPU | 英伟达图形处理器:大模型训练和推理的核心硬件(支持CUDA加速,大幅提升效率) |
| CPU | Central Processing Unit | 中央处理器:计算机核心硬件,可运行大模型(但推理速度远慢于GPU,适合小规模模型或边缘设备) |
| TPU | Tensor Processing Unit | 张量处理单元:Google推出的专用AI加速芯片,优化TensorFlow模型的训练和推理 |
使用说明
- 重点关注「应用开发核心技术」「常用工具与平台」章节,适配Java工程师从“调用API→搭建RAG架构→集成Java生态”的学习路径;
- 涉及部署运维的名词(如Quantization、vLLM),可在本地部署大模型时深入研究;
- 伦理与安全相关名词(如Hallucination、GDPR),在商业应用开发中需重点关注合规性;
- 建议结合实际开发场景记忆(如搭建RAG时,重点掌握RAG、Vector DB、Embedding Model、LangChain4j等名词的关联关系)。
评论
问答助学
相关内容
0个评论
全部评论
点击登录,快来和大家讨论吧~
表情
图片
暂无评论
内容推荐
1. 什么是流式对话?WebSocket 和流式对话有什么区别?2.在 RAG 中 Embedding 究竟是什么?如何选择和评估一个 Embedding 模型?3.什么是AOP?谈谈你对AOP的理解?4.线程池中 submit() 和 execute() 方法有什么区别?5.如何合理分配线程池大小?
2
day5✅️:SpringBoot进度一点点,项目进度11%以上⏰️:加快SpringBoot的进度📚:没有web基础,学着好吃力啊但没办法必须快一点;Maven的反复配置和报错,插件的选择······我真的改到吐血了!凌晨2点16分,项目终于不报错了没有红色下划线了·······我深刻的发现,真正困难的、拖慢学习进度的,其实并不是知识和技术有多难学,而是准备阶段太痛苦了,任何的前提配置的独立探
5
一.今天学了事务怎么在业务中使用事务@transaction注解@propagation注解二.明天目标hot100 两道三.今日感悟最近对学习提不起兴趣,先爽几天👿👿👿这是今天上课无聊看的面试题
3
day6✅️:Java课程的static和继承,写了heima的高级用户管理系统,两道力扣简单算法题⏰️:多态、接口的学习,把前一天的两道算法题用方法二写出来,再写两道算法题📚:我还是老老实实把Java的全部课程都认真过一遍,不要为了赶进度把所有课程听得一头雾水;我代码编程能力是有的,一口气就能把300行的代码全部自己写出来,比评论区的同学快很多;要学习尼古拉斯阿玮说的画图法,写代码前把思路画出
3
Day 14✅ 今天做了:1、6007复习以及期中考2、使用astrbot和snowluma给qq小号接入ds⏰ 明天计划:1、5491上课2、5489作业3、ds活人感增强:能使用表情包、拉入qq群、可以更多互动、发动态和签名4、了解astrbot和snowluma原理,以及了解b站是如何接入ds的5、尽量去做:马里奥项目推进、5491项目推荐📚 今日感悟:1、期中考现在完全结束了,考完还是觉
1
