2026年4月9日 周四晚上19:30分,来了解“从个人单点提效,到构建企业AI生产力”(限30人)
免费POC, 零成本试错
AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


我要投稿

ollama v0.20.0 更新:Gemma 4 全家桶发布,音频、视觉、MoE、BPE 支持全面升级

发布日期:2026-04-04 07:19:11 浏览次数: 1537
作者:福大大架构师每日一题

微信搜一搜,关注“福大大架构师每日一题”

推荐语

ollama v0.20.0带来Gemma 4全家桶与多模态能力升级,AI开发者不容错过!

核心内容:
1. Gemma 4系列模型全面支持,从2B到31B多种规格可选
2. 新增音频处理能力与SentencePiece-style BPE分词支持
3. 文档完善与推理测试优化,提升开发者体验

杨芳贤
53AI创始人/腾讯云(TVP)最具价值专家

 

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

2026年4月3日,Ollama 发布了 v0.20.0 版本。
这次更新的核心非常明确:Gemma 4 正式加入支持,并且围绕模型推理、音频能力、Tokenizer、视觉测试、转换器、OpenAI 音频接口等多个方向进行了集中增强。

如果你关注本次更新,可以直接从两个关键词理解:

  • • Gemma 4
  • • 音频与推理能力升级

下面按照本次版本更新内容,逐项整理成一篇完整的技术更新说明。


一、Gemma 4 正式加入支持

本次 v0.20.0 最重要的变化,就是 Gemma 4 相关支持的加入。
更新中给出了多个可直接运行的模型规格:

1)Effective 2B(E2B)

运行命令:

ollama run gemma4:e2b

这是 Gemma 4 的有效 2B 版本,适合轻量场景使用。

2)Effective 4B(E4B)

运行命令:

ollama run gemma4:e4b

这是 Gemma 4 的有效 4B 版本,在能力和资源消耗之间做了更平衡的选择。

3)26B(Mixture of Experts model with 4B active parameters)

运行命令:

ollama run gemma4:26b

这是一个 MoE(Mixture of Experts) 模型,描述中说明其 4B active parameters

4)31B(Dense)

运行命令:

ollama run gemma4:31b

这是 Gemma 4 的 31B Dense 版本,属于更大规模的稠密模型。

从这次发布的信息来看,Gemma 4 已经形成了较完整的规格覆盖,从轻量到大模型都提供了支持方式,用户可以按资源和场景选择对应版本。


二、What's Changed:本次更新涉及的关键内容

本次版本的更新记录非常集中,主要围绕 Gemma 4、音频、Tokenizer、文档、推理与测试展开。下面逐条梳理。


三、文档更新

首先是文档相关更新:

  • • docs: update pi docs

这说明本次版本中对 pi 相关文档进行了更新。
虽然内容本身不多,但说明文档层面同步跟进了新版本变化,方便用户查阅和使用。


四、Tokenizer 增强:支持 SentencePiece-style BPE

本次更新中有一个非常关键的底层能力变化:

  • • tokenizer: add SentencePiece-style BPE support

这表示 Tokenizer 新增了 SentencePiece 风格的 BPE 支持
这一变化对于模型适配和分词处理非常重要,尤其是在处理不同模型格式与分词规则时,可以提升兼容性。

与此同时,后续也有与 tokenizer 相关的配套修复:

  • • mlx: respect tokenizer add_bos_token setting in pipeline

这个改动说明在 pipeline 中会尊重 tokenizer 的 add_bos_token 设置。
换句话说,Tokenizer 的行为会更贴合配置,避免在处理输入时出现不一致情况。


五、Gemma 4 的模型支持与转换器更新

1)Gemma 4 GGML 模型支持

更新中明确写到:

  • • gemma4: add Gemma 4 GGML model support

这表示 Gemma 4 的 GGML 模型支持已经加入。

2)转换器更新:适配新的 weight drop 命名

  • • gemma4: update converter for new weight drop naming

这说明 Gemma 4 相关转换器已经根据新的 weight drop 命名进行了更新。
这是模型转换流程中非常关键的一环,确保新版本模型文件命名和导入过程能够顺利对接。


六、音频能力大幅增强

这次 v0.20.0 在音频方向的变化非常密集,可以说是重点之一。

1)添加音频支持,使用 USM conformer encoder

更新内容:

  • • gemma4: add audio support with USM conformer encoder

这表明 Gemma 4 新增了音频支持,并且使用的是 USM conformer encoder

2)OpenAI 音频 API 支持与能力检测

更新内容:

  • • gemma4: add OpenAI audio API support and capability detection

这说明本次版本已经加入了 OpenAI 音频 API 支持,并且还包含 capability detection,也就是能力检测机制。

3)音频输入支持

更新内容:

  • • gemma4: add audio input support for run command

这意味着在 run 命令中已经支持音频输入。

4)新增转写命令

更新内容:

  • • gemma4: add transcribe command (ollama transcribe MODEL)

这次新增了一个转写命令:

ollama transcribe MODEL

这对于音频转文字场景非常直接,命令形式也很清晰。

5)增加 OpenAI 音频转写 API 和 input_audio 支持

更新内容:

  • • gemma4: add OpenAI audio transcription API and input_audio support

这进一步完善了音频能力,不仅是输入和转写,还补充了与 OpenAI 音频转写 API 相关的支持,以及 input_audio 能力。

6)音频输入改为 dropped file attachments

更新内容:

  • • cmd: simplify audio input to dropped file attachments

这说明音频输入在命令层面被简化为 dropped file attachments,使用方式更直接。

从这一组更新可以看出,v0.20.0 在音频方向完成了从输入、转写、API 到命令行体验的一整套补强。


七、Gemma 4 解析、渲染与集成测试支持

本次更新还有一组围绕 Gemma 4 的基础设施改进:

  • • gemma4: add parser, renderer, and integration test plumbing

这说明已经加入了 parser、renderer、integration test plumbing
也就是说,Gemma 4 在解析、渲染以及集成测试方面的配套设施已经补上。

1)渲染器修复:输出 BOS token

  • • gemma4: fix renderer to emit BOS token

这是一个非常具体的修复,说明 renderer 现在会正确输出 BOS token

2)渲染器重写:与 HF Jinja2 模板完全一致

  • • gemma4: rewrite renderer to match HF Jinja2 template exactly

这说明渲染器被重写,以确保与 HF Jinja2 模板保持完全一致。

这个变化通常意味着模型输入模板的行为会更加标准化,减少模板差异带来的结果偏差。


八、MoE 相关增强与修复

Gemma 4 的 26B 版本是 MoE 模型,因此 MoE 相关改动非常关键。

1)为 MoE router 增加 per_expert_scale,并修复 moe_intermediate 问题

更新内容:

  • • gemma4: add per_expert_scale to MoE router and fix moe_intermediate_s…

虽然后半部分在记录中被截断,但已经明确看到两个重点:

  • • 为 MoE router 增加 per_expert_scale
  • • 修复 moe_intermediate_s... 相关问题

2)修复 MoE fused gate_up split 和 multiline tool-call arg parsing

更新内容:

  • • gemma4: fix MoE fused gate_up split and multiline tool-call arg parsing

这说明本次对 MoE 的 fused gate_up split 做了修复,同时还修复了 multiline tool-call arg parsing

3)MoE block 字段对齐格式调整

更新内容:

  • • Format Gemma4 MoE block field alignment

这是一个格式层面的整理,说明 Gemma4 MoE block 的字段对齐做了统一和规范化。

从这些信息可以看出,Gemma 4 的 MoE 版本在结构、解析、格式与计算路径方面都做了较完整的修复和优化。


九、视觉测试与 thinking 测试增强

更新中还有测试相关增强:

  • • integration: improve vision test robustness and add thinking tests

这表示集成测试进一步增强了视觉测试的稳定性,同时新增了 thinking tests。
从结果上看,这类更新主要是为了提升整体验证能力,让新版本在视觉相关场景和推理相关场景下更加可靠。


十、Gemma 4 音频测试与 OpenAI API 覆盖

音频相关不仅有能力支持,也同步加入了测试覆盖:

  • • integration: add gemma4 audio tests including OpenAI API coverage

这说明本次版本已经加入了 Gemma 4 音频测试,并且包括 OpenAI API 的覆盖。
这和前面音频能力的增强是相互呼应的,说明该版本并不是只做了功能接入,也同步补齐了对应验证。


十一、Gemma 4 视觉模型注释与字段格式调整

更新记录中还有一些针对模型结构和代码可读性的整理:

  • • Remove redundant comments in gemma4 vision model
  • • Format Gemma4 MoE block field alignment

前者表示移除了 Gemma 4 视觉模型中的冗余注释。
后者则对 Gemma4 MoE block 的字段对齐格式进行了调整。

这类更新虽然看起来偏细节,但对于代码维护、结构统一和后续协作非常重要。


十二、内存缓存与推理缓存优化

本次更新里还有一项和缓存相关的改动:

  • • use 4096 kvcache.NewSWAMemCache
  • • gemma4: use full SWA memory for better cache reuse

这说明缓存机制做了调整:

  • • 使用了 4096 kvcache.NewSWAMemCache
  • • 同时使用 full SWA memory 来获得更好的 cache reuse

这类优化通常和推理效率、上下文缓存复用体验有关,是底层能力增强的一部分。


十三、Gemma 4 clamps 初始化与后端加载修复

更新记录中还有:

  • • gemma4: initialize clamps after backend load

这表示 clamps 的初始化时机调整到了 backend load 之后。
从描述来看,这是一个初始化顺序上的修复,用于保证加载流程更稳定。


十四、Gemma 4 GGML 改进合并

更新记录最后还有一个重要的合并信息:

  • • Merge pull request from gemma4-ggml-improvements

这说明本次版本把 Gemma 4 的 GGML 改进进行了合并,和前面提到的 GGML model support、converter 更新等内容形成闭环。


十五、本次 v0.20.0 更新总结

整体来看,ollama v0.20.0 这次更新可以概括为几个核心方向:

  1. 1. Gemma 4 正式上线
  • • 提供了 E2B、E4B、26B、31B 多种规格
  • • 支持 GGML 模型
  • 2. 音频能力全面增强
    • • 支持音频输入
    • • 新增转写命令
    • • 增加 OpenAI 音频 API 与 transcription API 支持
    • • 支持 input_audio
    • • 简化音频输入方式
  • 3. Tokenizer 和模板能力增强
    • • 增加 SentencePiece-style BPE 支持
    • • pipeline 尊重 add_bos_token
    • • renderer 重写并修复 BOS token 输出
  • 4. MoE 与推理路径优化
    • • 增加 per_expert_scale
    • • 修复 MoE 相关问题
    • • 调整字段格式和分裂逻辑
    • • 改进缓存复用
  • 5. 测试与工程能力增强
    • • 视觉测试稳定性提升
    • • 新增 thinking tests
    • • 补充 Gemma 4 音频测试与 OpenAI API 覆盖

     

    ·

    我们相信人工智能为普通人提供了一种“增强工具”,并致力于分享全方位的AI知识。在这里,您可以找到最新的AI科普文章、工具评测、提升效率的秘籍以及行业洞察。


    欢迎关注“福大大架构师每日一题”,发消息可获得面试资料,让AI助力您的未来发展。

    ·

    53AI,企业落地大模型首选服务商

    产品:场景落地咨询+大模型应用平台+行业解决方案

    承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业

    联系我们

    售前咨询
    186 6662 7370
    预约演示
    185 8882 0121

    微信扫码

    添加专属顾问

    回到顶部

    加载中...

    扫码咨询