我要投稿

Phi-2：小模型的大能力

发布日期：2024-07-27 08:30:51 浏览次数： 2247

作者：竹言见智

微信搜一搜，关注“竹言见智”

分享大纲

Phi模型系列（暂不包含Phi-3）：

Phi-1：Phi系列第一个模型，拥有13亿参数，在Python编程基准测试中达到同期SLMs中的最先进性能。
Phi-1.5：同样拥有13亿参数，专注于常识推理和语言理解，性能与比它大5倍的模型相当。
Phi-2：拥有27亿参数，展现出卓越的推理和语言理解能力，在少于130亿参数的基础语言模型中表现最佳。在复杂基准测试中，Phi-2与比它大25倍的模型相匹配或更优。

Phi-2的关键洞察：

训练数据质量：对模型性能至关重要，Phi-2专注于“教科书级高质量”数据，包括合成数据集，模型常识推理和一般知识。
可伸缩知识转移：从拥有13 亿参数模型 Phi-1.5 开始，将其知识嵌入到 27 亿参数 Phi-2 中。这种规模化的知识转移不仅加速了训练收敛，而且显着提高了 Phi-2 基准分数。

Phi-2训练细节：

Phi-2基于Transformer模型，使用了1.4T的token，使用高质量的“教科书质量”数据，以及合成数据集。
训练使用96个A100 GPU，耗时14天。
作为基础模型，无RLHF进行对齐，也没有指令微调。

Phi-2评估：

在多个学术基准测试中（包括BBH、常识推理、语言理解、数学和编程等），Phi-2的性能超过了7B和13B参数的Mistral和Llama-2模型。
在多步推理任务（即编程和数学）上，Phi-2的性能甚至超过了比它大25倍的Llama-2-70B模型。

尽管模型大小较小，但Phi-2与Google Gemini Nano 2模型性能相当或更优。

Phi-2安全性和偏见：

Phi-2在安全性和偏见方面的行为优于经过对齐的现有开源模型，这归功于定制的数据策划技术。

分享的主要内容

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-09-17

超越 Prompt 和 RAG，「上下文工程」成了 Agent 核心胜负手

2025-09-17

Mem0 + Milvus：为人工智能构建持久化长时记忆

2025-09-17

企业级向量数据库选型，Milvus 和Zilliz Cloud哪个更合适？

2025-09-17

【实践】打造 AI 优先组织，Airtable 的阵痛与新生

2025-09-17

终于有Agent，把刀捅到了老板真正痛的地方。

2025-09-17

阿里发布下一代企业级智能体开发框架AgentScope 1.0

2025-09-17

关于大模型窗口大小的思考——上下文工程和提示词工程

2025-09-16

OpenAI首次揭秘：7亿人到底在用ChatGPT干嘛？

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

DeepSeek-V3.1 发布，迈向 Agent 时代的第一步

2025-08-21

精|知识探索新范式：深度研究Deep Research智能体全面综述，系统、方法与应用

2025-06-21

DeepSeekV3.1 提到的 UE8M0 FP8 Scale 是什么？下一代国产芯片设计？

2025-08-21

DeepSeek V3.1 测评

2025-08-19

WAIC 2025 观察：大模型进入“效率与场景”决胜期

2025-07-29

AI大家说 | 下一代AI创业的机会在哪里？定价趋势是什么？

2025-09-08

DeepSeek突然更新V3.1：实测后才发现的亮点与槽点

2025-08-19

DeepSeek v3.1 到底有多强？与 Claude Code 一起实测！

2025-08-20

Qwen3-Coder与Claude Code深度对比：谁是你的AI编程助手？

2025-09-14

豆包又在偷偷进步！超能创意2.0内测，语意理解能力追平FLUX Kontext

2025-07-04

大家都在问

企业级向量数据库选型，Milvus 和Zilliz Cloud哪个更合适？

2025-09-17

OpenAI首次揭秘：7亿人到底在用ChatGPT干嘛？

2025-09-16

Qwen3-Coder与Claude Code深度对比：谁是你的AI编程助手？

2025-09-14

阿里推出夸克医疗大模型：医考70%高分背后，RAG为何是“压舱石”？

2025-09-12

AI市场调查实战：如何让AI帮你搜全网特定规格的产品？

2025-09-11

Embedding-审核场景下都可以在哪里应用？

2025-09-11

nano banana 文生图模型有哪些具体的应用场景？

2025-09-09

Claude Code：极简架构 + 万字提示词 = 最强开发者智能体？

2025-09-09

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部