Day5

AI大模型应用开发核心技术与专有名词手册

(按技术领域分类,含英文缩写、全称、中文释义,适配Java工程师转型场景) https://learn.lianglianglee.com/

一、核心基础概念

英文缩写英文全称中文释义
AIArtificial Intelligence人工智能:利用计算机模拟人类智能(推理、学习、决策等)的技术总称
MLMachine Learning机器学习:AI的核心分支,通过数据训练模型,使计算机具备自主学习能力(无需显式编程)
DLDeep Learning深度学习:ML的子集,基于神经网络(多层结构)处理复杂数据(图像、文本等),是大模型的技术基础
NLPNatural Language Processing自然语言处理:AI的重要分支,研究计算机与人类语言的交互(理解、生成、翻译等),大模型应用核心场景
NLUNatural Language Understanding自然语言理解:NLP的子领域,专注于计算机对人类语言的语义、意图解析(如用户指令识别)
NLGNatural Language Generation自然语言生成:NLP的子领域,专注于计算机生成符合人类语言习惯的文本(如大模型对话、文案生成)
LLMLarge Language Model大型语言模型:基于海量文本数据训练的大参数语言模型(如GPT、LLaMA),具备强大的NLU和NLG能力
Foundation ModelFoundation Model基础模型:通过大规模通用数据训练,可适配多种下游任务(如LLM、多模态模型)的通用AI模型
TokenToken词元:文本处理的基本单位(可是单词、字、子词),大模型计算和理解文本的最小单元(如“人工智能”可拆分为2个Token)
TokenizationTokenization词元化:将原始文本拆分为Token的过程(大模型输入处理的第一步),常用工具如BPE、WordPiece

二、模型类型与训练技术

英文缩写英文全称中文释义
GPTGenerative Pre-trained Transformer生成式预训练Transformer:基于Transformer架构的生成式LLM,通过预训练+微调实现文本生成(OpenAI核心模型系列)
BERTBidirectional Encoder Representations from Transformers双向Transformer编码器表示:基于Transformer双向编码的模型,擅长NLU任务(如分类、问答),非生成式
T5Text-to-Text Transfer Transformer文本到文本转换Transformer:将所有NLP任务统一为“文本输入→文本输出”格式的通用模型(如翻译、摘要、问答)
LLamaLarge Language Model Meta AIMeta推出的开源LLM系列(如LLama 2、LLama 3),支持商用,可本地部署和二次开发
ClaudeClaudeAnthropic推出的LLM,以安全性和长上下文窗口为核心优势(支持100k+Token上下文)
PaLMPathways Language ModelGoogle推出的大语言模型,基于Pathways架构,支持多语言和复杂推理任务
Multimodal ModelMultimodal Model多模态模型:支持多种数据类型(文本、图像、音频、视频)输入输出的模型(如GPT-4V、Gemini)
RLHFReinforcement Learning from Human Feedback基于人类反馈的强化学习:大模型对齐人类偏好的核心技术,通过“预训练→监督微调→RLHF”三步优化模型输出
SFTSupervised Fine-Tuning监督微调:使用标注数据(输入→期望输出)对预训练大模型进行微调,使其适配特定任务(如客服对话、代码生成)
LoRALow-Rank Adaptation低秩适配:高效微调技术,通过冻结预训练模型权重,仅训练少量低秩矩阵参数,降低微调成本(Java开发中集成微调常用)
QLoRAQuantized LoRA量化低秩适配:LoRA的优化版本,结合模型量化(如4bit/8bit),进一步降低微调的显存占用,适合本地部署场景
PEFTParameter-Efficient Fine-Tuning参数高效微调:一类大模型微调技术的总称(含LoRA、Adapter等),核心是仅训练少量参数实现模型适配
Prompt TuningPrompt Tuning提示微调:通过在输入中添加特定提示(Prompt),结合少量参数训练,使模型适配下游任务的微调方式
In-Context LearningIn-Context Learning上下文学习:LLM的核心能力,无需微调,仅通过在输入中提供示例或指令,即可完成特定任务(如“请模仿以下格式总结文本:XXX”)
Few-Shot LearningFew-Shot Learning少样本学习:仅需少量标注示例(如3-5个),模型即可完成任务(依赖In-Context Learning能力)
Zero-Shot LearningZero-Shot Learning零样本学习:无需标注示例,仅通过自然语言指令,模型即可完成从未训练过的任务(如“用日语翻译‘你好’”)

三、核心技术架构与机制

英文缩写英文全称中文释义
TransformerTransformerTransformer架构:2017年提出的深度学习架构,基于自注意力机制,是所有现代LLM的核心基础(替代RNN、LSTM)
Self-AttentionSelf-Attention自注意力机制:Transformer的核心组件,使模型能关注输入文本中不同词元的关联关系(如“他”指代前文的“小明”)
Cross-AttentionCross-Attention交叉注意力机制:多模态模型或序列到序列任务中,使模型关注两种不同输入的关联(如文本→图像生成中,文本与图像特征的对齐)
Attention MaskAttention Mask注意力掩码:控制模型在计算注意力时“看不到”某些Token(如屏蔽Padding Token、实现因果掩码确保生成式模型不偷看未来Token)
Positional EncodingPositional Encoding位置编码:为Token添加位置信息的技术(Transformer本身无顺序感知能力),使模型理解文本的语序
Feed-Forward NetworkFeed-Forward Network前馈神经网络:Transformer中的核心组件(注意力层后),对每个Token的特征进行非线性转换,增强模型表达能力
DecoderDecoder解码器:Transformer的组成部分,用于生成式任务(如LLM),通过因果掩码确保自回归生成(逐词生成)
EncoderEncoder编码器:Transformer的组成部分,用于理解式任务(如BERT),双向编码文本特征,无因果限制
Autoregressive GenerationAutoregressive Generation自回归生成:生成式模型的核心生成方式,逐Token生成文本,每个Token的生成依赖前序Token(如GPT系列的生成机制)
Non-Autoregressive GenerationNon-Autoregressive Generation非自回归生成:一次性生成多个Token或完整文本,生成速度更快,但准确性和连贯性通常低于自回归(适用于实时性要求高的场景)
EmbeddingEmbedding嵌入/词嵌入:将离散的Token转换为连续的低维向量(如Word2Vec、BERT Embedding),使模型能数值化理解文本
Context WindowContext Window上下文窗口:LLM能处理的最大输入Token长度(如GPT-4 Turbo支持128k Token),决定模型能“记住”的上下文长度
Context LengthContext Length上下文长度:同Context Window,即模型的输入上限长度(超过需分段处理)

四、应用开发核心技术

英文缩写英文全称中文释义
RAGRetrieval-Augmented Generation检索增强生成:核心应用架构,通过“检索外部知识库→将相关信息作为Prompt输入LLM→生成回答”,解决LLM知识时效性、准确性问题(Java开发最常用的大模型应用架构)
Vector DBVector Database向量数据库:专门存储和检索Embedding向量的数据库(如Milvus、Pinecone、Chroma),支持相似性查询(RAG架构的核心组件)
Embedding ModelEmbedding Model嵌入模型:用于将文本、图像等数据转换为Embedding向量的模型(如Sentence-BERT、OpenAI Embeddings、阿里通义Embedding)
Prompt EngineeringPrompt Engineering提示工程:设计和优化Prompt(输入指令),使LLM更准确、高效地完成任务(无需修改模型,纯输入优化)
ChainChain链:将多个LLM调用、工具调用、数据处理步骤串联起来的流程(如LangChain中的核心概念,实现复杂任务拆解)
AgentAgent智能体:具备自主决策能力的AI系统,能理解任务、规划步骤、调用工具(LLM+工具+记忆),可独立完成复杂任务(如自动写代码、数据分析)
Tool CallingTool Calling工具调用:LLM的能力,能识别用户需求并调用外部工具(API、数据库、计算器等)获取结果,再生成最终回答(如“查询今日天气并总结”)
Function CallingFunction Calling函数调用:Tool Calling的具体实现形式,LLM通过识别函数定义(名称、参数),生成符合格式的函数调用请求,由应用程序执行后返回结果
LangChainLangChain大模型应用开发框架:提供Chain、Agent、Tool、向量存储集成等组件,简化LLM应用开发(Java有对应LangChain4j框架)
LlamaIndexLlamaIndex数据框架:专注于大模型与私有数据的集成,优化文档加载、分割、索引构建,适配RAG架构(辅助LangChain使用)
LangSmithLangSmithLangChain生态的调试、监控工具,用于跟踪LLM调用流程、评估输出质量、优化Prompt和Chain
API GatewayAPI GatewayAPI网关:大模型应用的入口层,负责请求路由、限流、认证、日志记录(Java开发中常用Spring Cloud Gateway适配)
Fine-Tuning PipelineFine-Tuning Pipeline微调流水线:大模型微调的全流程工具链(数据准备、模型加载、训练、评估、部署),如Hugging Face Transformers

五、部署与运维技术

英文缩写英文全称中文释义
MLOpsMachine Learning Operations机器学习运维:将DevOps理念应用于AI模型,覆盖模型开发、训练、部署、监控、迭代的全生命周期管理
AIOpsArtificial Intelligence for IT Operations智能运维:利用AI技术(如LLM)优化IT运维流程(如日志分析、故障诊断、自动修复)
Model ServingModel Serving模型服务化:将训练好的大模型封装为API接口(如REST、gRPC),供应用程序调用(Java开发中需对接的核心环节)
TensorRTTensorRTNVIDIA推出的深度学习推理优化引擎,可加速LLM在GPU上的推理速度(提升吞吐量、降低延迟)
ONNXOpen Neural Network Exchange开放神经网络交换格式:跨框架的模型格式标准,可将PyTorch、TensorFlow训练的模型转换为ONNX,便于部署和优化
TorchServeTorchServePyTorch官方的模型服务化工具,支持将PyTorch模型快速部署为REST/gRPC API
vLLMvLLM高性能LLM推理引擎:基于PagedAttention技术,大幅提升LLM的推理吞吐量和响应速度(支持本地部署大模型)
Text Generation InferenceText Generation InferenceHugging Face推出的LLM推理引擎,优化生成式模型的部署(支持动态批处理、张量并行)
QuantizationQuantization模型量化:将模型权重从高精度(如FP32)转换为低精度(如INT8、FP16、4bit),降低显存占用和推理延迟(本地部署必备技术)
FP16Float 16半精度浮点数:模型量化的常用精度,显存占用仅为FP32的一半,推理速度提升,精度损失较小
INT8Integer 88位整数:模型量化的常用精度,显存占用大幅降低(FP32的1/4),适合低资源环境部署(如CPU、边缘设备)
4bit Quantization4bit Quantization4位量化:更极致的量化技术(如GPTQ、AWQ算法),显存占用进一步降低,适合本地部署大参数量模型(如70B、175B)
ContainerizationContainerization容器化:将大模型服务、依赖环境打包为Docker容器,实现环境一致性和快速部署(Java微服务架构常用)
KubernetesKubernetesK8s:容器编排平台,用于管理大规模容器化的大模型服务(负载均衡、自动扩缩容、故障恢复)
Load BalancingLoad Balancing负载均衡:在多个大模型推理节点间分配请求,避免单点过载,提升系统吞吐量(Java开发中常用Nginx、K8s Service实现)
MonitoringMonitoring模型监控:跟踪大模型服务的性能(延迟、吞吐量)、输出质量(准确性、相关性)、资源占用(CPU/GPU/内存)
DriftDrift模型漂移:模型在实际使用中,因数据分布变化(数据漂移)或任务场景变化(概念漂移),导致性能下降的现象(需定期更新模型)

六、伦理与安全相关

英文缩写英文全称中文释义
AI AlignmentAI AlignmentAI对齐:使大模型的行为和目标与人类价值观、需求保持一致(避免生成有害、偏见内容)
SafetySafety模型安全:确保大模型不被滥用(如生成恶意代码、虚假信息),不生成有害内容(暴力、歧视、隐私泄露)
ModerationContent Moderation内容审核:对大模型的输入和输出进行过滤,拦截有害、违规内容(如色情、暴力、仇恨言论)
HallucinationHallucination模型幻觉:大模型生成不存在、不准确的信息(如虚假事实、错误引用),是大模型应用的核心风险点(需通过RAG、事实核查缓解)
BiasBias模型偏见:大模型因训练数据中存在的偏见(如性别、种族歧视),导致生成带有偏见的内容
Privacy PreservationPrivacy Preservation隐私保护:在大模型训练和应用中,保护用户隐私数据(如不泄露训练数据中的个人信息、使用联邦学习/差分隐私技术)
GDPRGeneral Data Protection Regulation通用数据保护条例:欧盟的隐私保护法规,对AI模型的数据收集、使用、存储有严格要求(跨国应用需合规)
ComplianceCompliance合规性:大模型应用需符合当地法律法规(如数据隐私、内容安全、知识产权)

七、常用工具与平台

英文缩写英文全称中文释义
Hugging FaceHugging Face开源AI社区与平台:提供海量预训练模型(Transformers库)、数据集、训练/部署工具(Java可通过Hugging Face Java SDK对接)
OpenAI APIOpenAI APIOpenAI提供的大模型调用接口(如GPT-3.5/4、Embeddings),支持文本生成、嵌入转换等功能(Java需通过HTTP客户端调用)
LangChain4jLangChain4jLangChain的Java版本:专为Java开发者设计的大模型应用开发框架,支持与Spring Boot集成,适配Java生态
Spring AISpring AISpring官方推出的AI应用开发框架,简化Java应用与大模型(OpenAI、本地LLM)、向量数据库的集成
MilvusMilvus开源向量数据库:支持大规模Embedding向量存储与相似性查询,适配RAG架构(Java有官方SDK)
PineconePinecone托管式向量数据库:无需自建运维,提供API接口,适合快速搭建RAG应用
ChromaChroma轻量级开源向量数据库:部署简单,适合开发测试和小规模应用
WeaviateWeaviate开源向量数据库:支持多模态数据(文本、图像),内置语义搜索功能
DockerDocker容器化工具:打包大模型服务及依赖环境,确保开发、测试、生产环境一致
NVIDIA GPUNVIDIA GPU英伟达图形处理器:大模型训练和推理的核心硬件(支持CUDA加速,大幅提升效率)
CPUCentral Processing Unit中央处理器:计算机核心硬件,可运行大模型(但推理速度远慢于GPU,适合小规模模型或边缘设备)
TPUTensor Processing Unit张量处理单元:Google推出的专用AI加速芯片,优化TensorFlow模型的训练和推理

使用说明

  1. 重点关注「应用开发核心技术」「常用工具与平台」章节,适配Java工程师从“调用API→搭建RAG架构→集成Java生态”的学习路径;
  2. 涉及部署运维的名词(如Quantization、vLLM),可在本地部署大模型时深入研究;
  3. 伦理与安全相关名词(如Hallucination、GDPR),在商业应用开发中需重点关注合规性;
  4. 建议结合实际开发场景记忆(如搭建RAG时,重点掌握RAG、Vector DB、Embedding Model、LangChain4j等名词的关联关系)。
0个评论
点击登录,快来和大家讨论吧~
表情
图片
暂无评论
鱼友9572
内容推荐
1. 什么是流式对话?WebSocket 和流式对话有什么区别?2.在 RAG 中 Embedding 究竟是什么?如何选择和评估一个 Embedding 模型?3.什么是AOP?谈谈你对AOP的理解?4.线程池中 submit() 和 execute() 方法有什么区别?5.如何合理分配线程池大小?
2
day5✅️:SpringBoot进度一点点,项目进度11%以上⏰️:加快SpringBoot的进度📚:没有web基础,学着好吃力啊但没办法必须快一点;Maven的反复配置和报错,插件的选择······我真的改到吐血了!凌晨2点16分,项目终于不报错了没有红色下划线了·······我深刻的发现,真正困难的、拖慢学习进度的,其实并不是知识和技术有多难学,而是准备阶段太痛苦了,任何的前提配置的独立探
5
一.今天学了事务怎么在业务中使用事务@transaction注解@propagation注解二.明天目标hot100 两道三.今日感悟最近对学习提不起兴趣,先爽几天👿👿👿这是今天上课无聊看的面试题
3
day6✅️:Java课程的static和继承,写了heima的高级用户管理系统,两道力扣简单算法题⏰️:多态、接口的学习,把前一天的两道算法题用方法二写出来,再写两道算法题📚:我还是老老实实把Java的全部课程都认真过一遍,不要为了赶进度把所有课程听得一头雾水;我代码编程能力是有的,一口气就能把300行的代码全部自己写出来,比评论区的同学快很多;要学习尼古拉斯阿玮说的画图法,写代码前把思路画出
3
Day 14✅ 今天做了:1、6007复习以及期中考2、使用astrbot和snowluma给qq小号接入ds⏰ 明天计划:1、5491上课2、5489作业3、ds活人感增强:能使用表情包、拉入qq群、可以更多互动、发动态和签名4、了解astrbot和snowluma原理,以及了解b站是如何接入ds的5、尽量去做:马里奥项目推进、5491项目推荐📚 今日感悟:1、期中考现在完全结束了,考完还是觉
1
下载 APP