Day 1 ✅ 今天做了：学习第11章 大模型微调技术 ⏰ 明天计划：学习 AI大模型概念+面试通关120问 📚 今日感悟：1. 微调(Fine-tuning)可以让大模型按照需求来专精你想让它会的，可以对其进行定制与知识注入。是在原有的提示词工程以及RAG的基础上，更深入的定制所需的大模型。实际生产应用中，微调和提示词工程以及RAG可以进行互补，所负责的层面不一样。 2. 对大模型的微调，预训练是为了让大模型获取“知识”，指令微调可以让大模型听懂问题，对齐则是让大模型的回答使我们所需要的结果。 3. 高效微调技术中，LoRA技术(即Low-Rank Adaptation 低秩适配)的优势在于推理时没有往外的计算花销，并且效果接近全量微调，同时可以叠加多个LoRA用于不同的任务，参数量极小很灵活。 4. LLaMA-Factory是目前最流行的一站式微调工具，一次完整的微调标准流程为：选择基座模型->准备训练数据->选择微调方法->配置训练参数->开始训练->评估效果->导出与部署。