我要投稿

OpenAI开源gpt-oss大模型，本地测试可用性比较高

发布日期：2025-08-07 10:35:27 浏览次数： 2289

作者：极客开源

微信搜一搜，关注“极客开源”

#OpenAI 迫于竞争压力，终于推出了 gpt-oss-120b 和 gpt-oss-20b 两款开源大语言模型，意在与 #DeepSeek 和 #Qwen 争夺开发者生态。这次开源包含开放参数、支持本地部署、兼容链式推理，其中 gpt-oss-120b 的性能接近 o4-mini，并采用 Apache 2.0 许可证支持商用。

可以关注公众号 #极客开源 👆获取最新一手 #AI大模型 #开源项目信息，如果这篇文章对你有用，可以点个“推荐”，听说会影响公众号的 #推荐算法。

模型版本

本次 #开源两个 #MoE 架构的推理模型：

gpt-oss-120b：激活参数量 5.1B，性能更强，可在单张 Nvidia 显卡上运行
gpt-oss-20b：激活参数量 3.6B，更轻量化，甚至可在 16GB 内存的普通笔记本上运行

性能表现

根据 EQBench 评测结果，两个模型分别达到 GPT-4.1-mini 和 GPT-4.1-nano 的水平。在长篇创意写作方面，gpt-oss-120b 接近 Qwen3-30B-A3B 的表现。

在本地环境测试中，gpt-oss-120b 在 Apple M3 Ultra 512G 上大概能以43-45 token/s 运行，这个速度还可以。

技术限制

模型原生上下文长度仅为 4K token，虽然通过 YaRN 位置编码缩放和滑动窗口注意力扩展到了 131,072 token，但超过 4K 后召回性能可能会显著下降。

OpenAI 发布了其开源模型 OSS 系列的#微调教程，由于当前 Expert MXFP4 量化格式的限制，推荐使用 Hugging Face TRL 库进行微调。其他库（如 Unsloth）的兼容性尚待进一步开发。

该教程以 oss-20b 模型为例，展示了如何在模型的系统提示中添加新的“推理语言”选项，并使用多语言推理数据集进行#监督微调。

官方示例在一张 H100 80G 显卡上，使用 1000 条数据进行微调，耗时约 18 分钟。考虑到成本效益，建议用户租用 GPU 资源而非自行购买或使用性能较低的显卡，目前 H100 80G 的租赁成本约为每小时 2 美元。

该教程提供了示例代码，内容精简且易于理解，有助于学习微调技术的实际应用。用户可以快速掌握微调流程。

战略意义

对于 #AI工具开发者而言，这次开源是重大利好，无需担心云端限速、商业闭源或法律风险。OpenAI 的开源策略也将吸引顶级 AI 研究员使用并改进模型，就像 DeepSeek 和 Qwen 通过社区贡献不断迭代优化一样，形成良性的生态循环。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-05-16

Hermes Agent 深度解析：为什么它能“越用越懂你”？

2026-05-15

再见 Hermes、小龙虾！面向 DeepSeek V4 的终端原生编程智能体来了

2026-05-15

GenericAgent 实测：Token 少用 89.6%，还能打赢 Claude Code？上下文密度才是关键

2026-05-14

腾讯开源Agent Memory，让Token消耗降低61%

2026-05-14

agents-hive 开源了：一个面向生产的Harness Agent 工程

2026-05-12

Hermes Agent 完整安装指南

2026-05-11

对话OpenClacky李亚飞：把Harness做透，Token账单就不是问题了

2026-05-10

Claude 的金融 Skills 开源了

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

Hermes Agent 出来了，聊聊它凭什么跟 OpenClaw 掰手腕

2026-03-30

Google Gemma 4 开源｜全面解读

2026-04-03

字节跳动开源 DeerFlow 2.0：下一代超级 Agent 引擎，一键搞定复杂工作流！

2026-03-23

很多人突然不玩小龙虾而用Hermes Agent了。我替你试了，跟小龙虾到底有啥不同？

2026-04-09

刚刚，Claude Code开源了！51万行代码，全网狂欢

2026-03-31

1700人收藏！港大开源 ClawWork：开局 10 美元，AI 靠打工 7 小时狂赚 1 万刀！

2026-02-18

4 天 6.8K Star，这个 AI 漫剧项目火了：waoowaoo！

2026-03-03

震惊！刚刚，Anthropic掀了桌子：OpenClaude横空出世，大模型闭源时代彻底终结？

2026-04-01

GLM-5 技术报告全解读｜a16z：“最好的开源模型”

2026-02-22

开启极简养虾，用 TRAE 快速部署 OpenClaw

2026-03-04

大家都在问

Hermes Agent 深度解析：为什么它能“越用越懂你”？

2026-05-16

百度把Nano Banana塞进4090，疯了？

2026-04-22

Kimi K2.6 开源了！还附送了 300 个 Agent 员工？

2026-04-21

Hermes 凭什么两个月接棒 OpenClaw？

2026-04-15

很多人突然不玩小龙虾而用Hermes Agent了。我替你试了，跟小龙虾到底有啥不同？

2026-04-09

震惊！刚刚，Anthropic掀了桌子：OpenClaude横空出世，大模型闭源时代彻底终结？

2026-04-01

英伟达的NemoClaw，能帮AI代理这匹“野马”套上缰绳吗？

2026-03-17

你的 AI Agent 真的在受控运行吗？

2026-03-13

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部