06-关于语音转写大模型
背景
公司信息安全策略封禁豆包云端 ASR 服务。 豆包语音识别是云端 ASR:用户语音上传到豆包服务器转写后再返回文本。公司内网在网络层封禁了豆包 ASR 服务的公网域名/IP,导致豆包客户端连接不上云端转写服务,直接报"启动失败"。
云端 ASR 输入法(豆包/搜狗/讯飞)在公司电脑上均不可用,必须改用模型跑在本地的语音输入方案:
- Windows 11 自带语音输入(Win+H,系统内置模型,不走公网)
- 本地 ASR 模型输入法(如噜噜输入法)
- 本地部署 Whisper/funasr 等开源 ASR
本地化外壳
2.2 三个模型对比
| 模型 | 参数量 | 大小 | 推理框架 | 量化 | 流式 | 做整理润色 | 速度 | 准确率 |
|---|---|---|---|---|---|---|---|---|
| SenseVoice(通义) | ~200M | 228MB | sherpa-onnx | int8 | 否 | 否(纯转写) | 极快 ⚡ | 中 |
| Qwen3-ASR-0.6B(千问) | 0.6B | 1.5GB | PyTorch CPU | float32 不量化 | 否 | 否(纯转写) | 慢 🐢 | 中 |
| Confucius4-R2T2(子曰) | ~7B级 | 1.4GB | llama.cpp | Q4 量化 | 是 | ✅ 转写+润色合一 | 慢 🐢 | 高 ✅ |
2.3 原理差异详解
SenseVoice(通义)—— 最快
▼text复制代码音频 → [sherpa-onnx int8 小模型] → 原始转写文本
- 专为实时语音设计,牺牲准确率换速度
- ONNX int8 量化:模型从 1.2GB 压到 228MB,CPU 计算量减少 4 倍
- sherpa-onnx 专门为 CPU 推理优化:用 ONNX Runtime 的 MKLDNN/XNNPACK 后端,矩阵运算走 AVX2 指令集
- 输出无标点、无分段、无纠错
Qwen3-ASR-0.6B(千问)—— 慢且性价比低
▼text复制代码音频 → [PyTorch float32 中模型] → 原始转写文本
- 通义千问的语音版,但 CPU 推理没优化
- PyTorch 是通用框架,没针对 CPU 推理优化:走通用 BLAS,没有 ONNX 那种指令集特化
- float32 不量化:1.5GB 模型全精度跑,每参数 4 字节
- 0.6B 参数比 SenseVoice 大 3 倍,又没量化又没优化 → 慢
- HuggingFace transformers 加载慢:首次加载模型到内存要几十秒(torch 序列化开销)
- 输出和 SenseVoice 一样(纯转写),只是慢
Confucius4-R2T2(子曰)—— 最准但慢
▼text复制代码音频 → [llama.cpp Q4 大模型] → 整理润色后的文本
- 本质是个多模态大模型(基于 llama.cpp)
- prompt 设计(
_POST变量):
引导模型生成"整理后的文本"而非"原始转写"▼text复制代码<|audio_end|><|im_end|> <|im_start|>assistant language {lang}<asr_text> - 自带标点、分段、纠错、口语化清理
- 流式(边说边出字),但说完后有真正的"整理润色"阶段(模型继续生成润色文本)
2.4 "整理"阶段的本质
| 模型 | "整理"现象 | 真相 |
|---|---|---|
| SenseVoice | 无整理 | 纯转写,瞬间出结果 |
| Qwen3-ASR-0.6B | 看起来"在整理" | 错觉:非流式+模型慢,说完后干等几秒才出结果 |
| Confucius4-R2T2 | 真正的整理润色 | 模型继续生成润色文本(加标点/纠错/分段) |
2.5 模型选择建议
| 需求 | 推荐 | 原因 |
|---|---|---|
| 追求速度 | SenseVoice ✅ | ONNX 优化,接近实时 |
| 追求准确率 | Confucius4-R2T2 ✅ | 大模型+整理润色,最准 |
| 慢且不准,不推荐 |
评论
问答助学
相关内容
0个评论
全部评论
点击登录,快来和大家讨论吧~
表情
图片
暂无评论
作者分享
05-助手Personal-Assistant
2
04-Ontology本体
2
day3-如何写出一个高质量的 Skill(组内分享)
高质量 Skill 不是“一个调得很顺的巨型 Prompt”,而是一个可验证、可回归、可维护的能力包。
先定义“什么算好”,再实现“怎么做好”。评估体系先于 Skill 本身成型。
下面用“故障诊断 Markdown 转 YAML”作为例子,但方法是通用的。
---
一、先想清楚:Skill 到底是什么
一个 Skill 至少包含四部分:
部分 作用
接口 输入什么、输出什么、边界在哪
流程 分几步做,每步的产物是什么
规则 硬约束、经验规则、失败模式
降级策略 不确定时怎么办,而不是硬编一个看似合理的结果
高质量 Skill 的共同点:职责单一、接口清晰、规则可定位、输出可验证。
反例:把几十条经验全塞进一个主 Prompt,改一条规则要重调整个 Prompt,评估时也不知道是哪条规则退化。
---
二、核心方法:先建评估,再写 Skill
不要先写转换器再补测试。正确顺序是:
1. 定义输出契约:什么算合法、什么算合格;
2. 建金标准集:一小批人工认可“可放行”的样本;
3. 先写评估 Skill:让它在金标准集上跑出基线;
4. 再迭代生成 Skill:每次修改跑同一套评估,无退化且目标维度提升才算正向。
这就是评估驱动开发:评估是 Skill 的单元测试,金标准集是回归锚点。
---
三、评估 Skill:三层门禁,逐层递进
前一层不过,后一层不跑。每层留可追溯证据。
第 1 层:确定性硬门禁
用解析器、Schema、校验器完成,不消耗模型成本。
· 输出可解析;
· 必填字段齐全,类型/枚举合法;
· 引用目标存在,无悬空引用、无不可达节点;
· 关键路径至少有一条能到达预期出口。
不通过直接打回。
第 2 层:语义断言
用脚本 + 结构遍历检查“逻辑对不对”,仍然保持确定性。
通用检查项:
· 覆盖率:源材料里的关键步骤、分支、条件,输出里是否都有对应?
· 完整性:每个判断节点是否都有明确出口?有没有死胡同?
· 可达性:每条路径是否都能到达预期终点?有没有无出口循环?
· 顺序与依赖:有先后依赖的操作,是否保留了顺序?有没有被拍平成无序列表?
例子:故障诊断转换中,检查“每个判断项是否有是/否/异常出口”“每条路径是否能到根因”。
第 3 层:LLM-as-Judge
只处理解析器表达不了的维度:忠实度、完整性、可执行性。
但 Judge 会漂移,不能单独放行,必须建立在第 1、2 层之上。Judge 的 Prompt、rubric、模型版本都要版本化,换模型必须用金标准集重新校准。
通用 Judge 维度:
维度 问什么
忠实度 输出是否忠实源材料意图?有没有自行发明内容?
完整性 关键步骤、条件、证据是否保留?隐式知识有没有被压成空话?
收敛性 输出是否仍指向原目标,而不是发散?
可执行性 下游不依赖源材料能否直接使用?
---
四、金标准集:回归测试的锚点
不需要一开始就标注几百份。用已认可的样本当种子,扩到 15~30 份,覆盖失败模式而非随机抽样:
· 完整正例:典型流程;
· 边界/异常分支:异常路径、循环、前置失败回退;
· 已知易错模式:实际踩过的坑;
· 留出集:不参与调优,只用于最终验收,防过拟合。
金标准不需要完美,只需要当前标准下认可可放行。
回归指标:关键路径用 pass^k(k 次全过),稳定性用 pass@k。
---
五、工程约束:让批量产出可重放
· 幂等:同输入 + 同 Skill 版本 + 同规则 → 输出一致,否则无法判断变好是 Skill 改了还是随机波动;
· 隔离不阻断:单份失败进隔离队列,记录失败层和原因,不阻塞其余;
· 版本绑定:规则、rubric、金标准集进 Git;每份报告绑定“源版本 + 生成 Skill 版本 + 评估 Skill 版本 + Judge 模型版本”;
· 抽样人工复核:Judge 临界样本 + 易错模式,人工抽检结果反过来校准 rubric。
---
六、Skill 本身怎么写
· SKILL.md 控制篇幅,写清:输入约定、输出契约、分步流程、硬规则、降级策略;
· 经验规则放 references/ 或 rules/,按失败模式分类,不要全塞进主 Prompt;
· 不确定时标 needs_review: true,不要硬编看似合理的结果;
· 迭代由评估报告驱动:报告告诉你哪层挂了、哪类失败模式,你改对应规则文件,而不是漫无目的调 Prompt。
---
七、落地顺序(不要反过来)
1. 固化输出契约:Schema + 结构约束;
2. 建金标准集:从已认可的 + 最易出错的样本开始;
3. 先写评估 Skill:跑出基线报告;
4. 再迭代生成 Skill:每次修改对比逐项通过率,无退化且目标提升才算正向;
5. 批量运行 + 隔离回放:失败进队列,结束后人工抽检;
6. 评估 Skill 自身版本化:换 Judge 模型必须重新校准。
---
八、给组员的三条硬要求
1. 不许凭感觉说“变好了”:每次修改必须附评估报告对比,逐项通过率说话。
2. 不许跳过确定性门禁直接看 Judge 分数:前两层挂了,Judge 分数没有意义。
3. 不许把规则堆进主 Prompt:规则按失败模式分文件,评估报告要能定位到具体文件。
---
一句话收尾
生成 Skill 决定“能不能做”,评估 Skill 决定“敢不敢用”。
先让评估体系站稳,再让生成器迭代。这样交付的不是一堆“看起来还行”的产出,而是一套可证明、可回归、可交接的 Skill 质量体系。
11
day2-Apache Jena、TBox 和 ABox 到底是什么?
最近做云运维技术选型,发现很多同学会把 Apache Jena 和大模型推理引擎混在一起。简单扫个盲。
一、Apache Jena 是什么?
Jena 不是跑大模型的推理引擎,不是 vLLM、TensorRT-LLM 那一类东西。
它是开源的 Java 语义网 / 知识图谱框架,主要处理 RDF、OWL 数据,提供存储、SPARQL 查询和基于规则的确定性推理。大约 2000 年由 HP Labs 启动,2001 年发布早期开源版本,2012 年成为 Apache 顶级项目。
它的特点是:你写什么规则,它就推什么结论。可解释、可复现,但能力取决于规则写得好不好。
二、TBox 和 ABox 怎么理解?
一句话:
TBox 是“词典、分类体系和规则手册”;ABox 是“具体发生了什么”的账本。
判断方法:
换一个云环境、换一个时间点,这句话还成立吗?
· 还成立 → 大概率是 TBox(本体层);
· 带具体 ID、时间、数值、状态 → 大概率是 ABox(实例层)。
比如:
· “告警有严重级别” → TBox;
· “alert-1001 在 10:03 发生在 vm-001 上,severity=critical” → ABox。
· “云主机可以 hostedOn 宿主机” → TBox;
· “vm-001 hostedOn host-01” → ABox。
· “CPU 严重告警可能推导出 CPU 过载故障” → TBox 规则;
· “这次具体是 alert-1001 触发了 fm-2001” → ABox 记录。
三、云运维六件套怎么拆?
关键:每一件都不是整体属于某一层,而是“类型定义”在 TBox,“具体记录”在 ABox。
六件套 TBox ABox
Entity 实体 定义 VM、DB、Host 等类 vm-001 rdf:type VM
告警/事件 定义告警类型、严重级别枚举 alert-1001 alarmOn vm-001
Metrics 指标 定义指标类型、单位、阈值 某时刻 CPU=95% 的具体点
Fault mode 故障 定义故障模式分类 fm-2001 faultOn vm-001
Relationship 关系 定义 dependsOn、hostedOn 等关系类型 vm-001 dependsOn db-002
Action 动作 定义 RestartAction 等动作模板 action-3001 target vm-001
最容易误判的是 Relationship 和 Action:关系类型、动作模板在 TBox;具体哪条边、哪次执行记录在 ABox。
四、选型上的一句话
Jena 适合放 TBox 和规则,做确定性推理;全量 ABox 实例更适合放图库做遍历。 大模型不存本体也不存实例,它只负责把用户问题翻译成查询意图。
所以不是“Jena 和大模型二选一”,而是:
大模型负责“听得懂”,图库负责“找得到”,Jena 负责“推得出”。
3
D1-AIAgent全链路流程
5
