我要投稿

OpenAI开源gpt-oss大模型，本地测试可用性比较高

发布日期：2025-08-07 10:35:27 浏览次数： 2238

作者：极客开源

微信搜一搜，关注“极客开源”

#OpenAI 迫于竞争压力，终于推出了 gpt-oss-120b 和 gpt-oss-20b 两款开源大语言模型，意在与 #DeepSeek 和 #Qwen 争夺开发者生态。这次开源包含开放参数、支持本地部署、兼容链式推理，其中 gpt-oss-120b 的性能接近 o4-mini，并采用 Apache 2.0 许可证支持商用。

可以关注公众号 #极客开源 👆获取最新一手 #AI大模型 #开源项目信息，如果这篇文章对你有用，可以点个“推荐”，听说会影响公众号的 #推荐算法。

模型版本

本次 #开源两个 #MoE 架构的推理模型：

gpt-oss-120b：激活参数量 5.1B，性能更强，可在单张 Nvidia 显卡上运行
gpt-oss-20b：激活参数量 3.6B，更轻量化，甚至可在 16GB 内存的普通笔记本上运行

性能表现

根据 EQBench 评测结果，两个模型分别达到 GPT-4.1-mini 和 GPT-4.1-nano 的水平。在长篇创意写作方面，gpt-oss-120b 接近 Qwen3-30B-A3B 的表现。

在本地环境测试中，gpt-oss-120b 在 Apple M3 Ultra 512G 上大概能以43-45 token/s 运行，这个速度还可以。

技术限制

模型原生上下文长度仅为 4K token，虽然通过 YaRN 位置编码缩放和滑动窗口注意力扩展到了 131,072 token，但超过 4K 后召回性能可能会显著下降。

OpenAI 发布了其开源模型 OSS 系列的#微调教程，由于当前 Expert MXFP4 量化格式的限制，推荐使用 Hugging Face TRL 库进行微调。其他库（如 Unsloth）的兼容性尚待进一步开发。

该教程以 oss-20b 模型为例，展示了如何在模型的系统提示中添加新的“推理语言”选项，并使用多语言推理数据集进行#监督微调。

官方示例在一张 H100 80G 显卡上，使用 1000 条数据进行微调，耗时约 18 分钟。考虑到成本效益，建议用户租用 GPU 资源而非自行购买或使用性能较低的显卡，目前 H100 80G 的租赁成本约为每小时 2 美元。

该教程提供了示例代码，内容精简且易于理解，有助于学习微调技术的实际应用。用户可以快速掌握微调流程。

战略意义

对于 #AI工具开发者而言，这次开源是重大利好，无需担心云端限速、商业闭源或法律风险。OpenAI 的开源策略也将吸引顶级 AI 研究员使用并改进模型，就像 DeepSeek 和 Qwen 通过社区贡献不断迭代优化一样，形成良性的生态循环。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-04-22

百度把Nano Banana塞进4090，疯了？

2026-04-21

Kimi K2.6 开源了！还附送了 300 个 Agent 员工？

2026-04-21

Kimi K2.6 发布并开源，全面精进代码和 Agent 集群能力

2026-04-20

借助 Gemma 4，将业界领先的 Agent Skills 引入端侧

2026-04-18

Ollama 本地部署 Gemma 4 完全指南

2026-04-18

Google Gemini CLI 完整使用指南

2026-04-18

ollama v0.21.0 最新更新：Hermes Agent 与 Ollama 联动、Copilot CLI 集成、launch 配置优化、Gemma4 与 MLX 多项性能修复全解析

2026-04-18

Hermes Agent v0.9.0 全面解析：AI 助手的终极进化

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

重磅开源！Kimi K2.5 本地部署全攻略：手把手教你跑通 1T MoE 巨兽

2026-01-30

Clawdbot 完整安装教学：2026 年最火的开源AI 个人助理

2026-01-27

Clawdbot 深度拆解： 7 个问题看懂它。

2026-01-29

实测Kimi K2.5，这是一款厌丑的开源模型

2026-01-27

ClawdBot 火爆全网，手把手教你如何部署，还能直接用钉钉操作！

2026-01-28

终于来了！首款可视化 Skills 神器开源，Claude/Cursor/Codex 一键同步！

2026-01-26

为什么你一定要用OpenCode

2026-01-23

Hermes Agent 出来了，聊聊它凭什么跟 OpenClaw 掰手腕

2026-03-30

Google Gemma 4 开源｜全面解读

2026-04-03

字节跳动开源 DeerFlow 2.0：下一代超级 Agent 引擎，一键搞定复杂工作流！

2026-03-23

大家都在问

百度把Nano Banana塞进4090，疯了？

2026-04-22

Kimi K2.6 开源了！还附送了 300 个 Agent 员工？

2026-04-21

Hermes 凭什么两个月接棒 OpenClaw？

2026-04-15

很多人突然不玩小龙虾而用Hermes Agent了。我替你试了，跟小龙虾到底有啥不同？

2026-04-09

震惊！刚刚，Anthropic掀了桌子：OpenClaude横空出世，大模型闭源时代彻底终结？

2026-04-01

英伟达的NemoClaw，能帮AI代理这匹“野马”套上缰绳吗？

2026-03-17

你的 AI Agent 真的在受控运行吗？

2026-03-13

137K 行代码、零 clippy 警告：这个开源项目凭什么让 AI Agent 领域炸锅？

2026-03-02

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部