微信扫码
添加专属顾问
我要投稿
阿里Qwen3-4B模型重磅升级,256K超长上下文支持,性能直逼GPT-4.1-nano! 核心内容: 1. Qwen3-4B两大升级版本:指令版提升多语言能力,思考版强化逻辑推理 2. 4B参数模型实现256K超长上下文处理能力 3. 性能测试显示接近30B大模型水平,特别适合翻译和RAG应用
阿里发布了 Qwen3-4B-Instruct-2507 和 Qwen3-4B-Thinking-2507。
这2款模型比3月前发布的 Qwen3-4B 更智能、更敏锐、且支持 256K上下文!
🔹指令:提高一般技能、多语言覆盖和长程上下文指令的遵循。
🔹思考:逻辑、数学、科学和代码的高级推理,专为专家级任务而构建。
两种模型都更加一致、功能更强大、并且更能感知环境。
hf模型:
https://huggingface.co/Qwen/Qwen3-4B-Instruct-2507
https://huggingface.co/Qwen/Qwen3-4B-Thinking-2507
魔搭社区下载:
https://modelscope.cn/models/Qwen/Qwen3-4B-Instruct-2507
https://modelscope.cn/models/Qwen/Qwen3-4B-Thinking-2507
Qwen3-4B 具有以下特点:
训练阶段:预训练、后训练
参数量:4B
非嵌入层参数量:3.6B
层数:36层
注意力头数量(GQA):Q 32 个,K 8 个
上下文长度:原生支持262,144 token,即 256k
以下例子使用了非思考模式的 Qwen3-4B 模型。
Qwen3-4B,在小模型队伍里比较亮眼,256K的上下文,适合做翻译任务、tool call 和 RAG等。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2025-10-01
Sora 2 发布:第一时间详解
2025-10-01
AI三巨头节前扎堆“交作业”:DeepSeek像蜜雪冰城,Claude像喜茶
2025-09-30
智谱旗舰模型GLM-4.6上线,代码能力全面进阶
2025-09-30
AI原生 vs. AI集成:产品经理的生存关键!
2025-09-30
大模型在小爱同学应用实践
2025-09-30
Anthropic长文拆解上下文工程落地策略与实践
2025-09-30
OpenAI版抖音要来了!Sora 2加持,只能发AI生成视频
2025-09-30
Anthropic 深夜祭出 Claude Sonnet 4.5,能自主连续工作 30 小时!CEO:它更像你的同事
2025-08-21
2025-08-21
2025-08-19
2025-09-16
2025-07-29
2025-09-08
2025-08-19
2025-09-17
2025-08-20
2025-09-14
2025-09-30
2025-09-29
2025-09-28
2025-09-27
2025-09-27
2025-09-25
2025-09-23
2025-09-22