我要投稿

GPT&llama结构对比图

发布日期：2024-09-25 20:34:50 浏览次数： 2178

作者：是海潮音

微信搜一搜，关注“是海潮音”

https://github.com/rasbt/LLMs-from-scratch/blob/main/ch05/07_gpt_to_llama/converting-gpt-to-llama2.ipynb
《Build a Large Language Model From Scratch》 book by Sebastian Raschka

今天看到Sebastian Raschka 绘制的GPT-2 XL 1.5B、Llama 2 7B以及Llama 3 8B的架构对比图。

GPT-2 XL 1.5B:

Vocabulary大小：50,257
使用了绝对位置嵌入（Absolute Positional Embeddings），最大输入长度为1600个token。
层数：48层，包含LayerNorm、Masked Multi-head Attention、Feed Forward等模块。
注意力头：25个多头注意力（heads）。
采用LayerNorm来正则化。
采用GELU

Llama 2 7B:

Vocabulary大小：32,000
采用了RoPE位置嵌入（Rotary Positional Embeddings），支持最大4096个token的输入长度。
层数：32层，与GPT-2相比少了16层。
注意力头：32个，
使用的是RMSNorm来代替LayerNorm，从而提升训练效率和收敛性。
激活函数：使用了SILU（Sigmoid-Weighted Linear Unit）代替GPT-2中的GELU。
去掉了一些Dropout层

Llama 3 8B:

Vocabulary大小：128,000，显著增大。
继续使用了RoPE位置嵌入，但支持更长的输入长度：8192个token。
层数：32层，与Llama 2相同，
引入了Grouped-Query Attention，这是一种改进的注意力机制，优化了多头注意力的处理。
使用RMSNorm进行正则化。

这里写的llama2和llama3使用SILU，Paper介绍使用了SwiGLU，二者还是有一定差别

这本书质量很高，推荐

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-12-13

Palantir 的版本管理机制深度解读

2025-12-13

我做的第一个Claude Skill

2025-12-13

AI 的衔尾蛇：当需求成为一场镜像游戏

2025-12-13

GPT-5.2实测：五大职场“牛马任务”，考验它的生存力

2025-12-12

最权威AI Agent避坑指南来了！智能体越多死得越快，效率最高暴跌70%

2025-12-12

2025年，企业级AI的主战场在哪里？

2025-12-12

智能体（AI Agents）工作流：核心架构、模式原理与落地案例

2025-12-12

GPT 5.2的长上下文厉害了，但是写文真的强吗？

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

从需求场景出发的AI应用项目落地方法论

2025-09-19

马斯克 Grok imagine 完整使用指南：工具、案例、提示词，看这一篇就够了！

2025-10-26

实测 Sora 2 ：AI视频的“ChatGPT时刻”来了？八大场景教你解锁各种玩法（附邀请码）

2025-10-02

新版 GPT-5 刚刚发布，最卷 AI 连肝代码 7 小时，编程工具大洗牌开始了

2025-09-16

阿里发布下一代企业级智能体开发框架AgentScope 1.0

2025-09-17

RagFLow v0.20.X全面解析！双向MCP、Agentic智能体...这次真的起飞了！（附长图）

2025-09-29

一文速览OpenAI Dev Day 2025，下半年开始大洗牌

2025-10-07

Claude Sonnet4.5发布，号称世界最强模型，超越gpt-5-codex

2025-09-30

我挖到Gemini 3.0 Pro十大隐藏玩法，做网页已经落后N个版本了

2025-11-19

2025-10-20

大家都在问

2025年，企业级AI的主战场在哪里？

2025-12-12

GPT 5.2的长上下文厉害了，但是写文真的强吗？

2025-12-12

涌现观点｜AI 开发的"App Store 时刻"：为什么你应该停止构建 Agent？

2025-12-11

Human In the Loop竟然可以是个MCP?

2025-12-09

AI会消灭搜索吗？

2025-12-08

企业在本地部署大语言模型，如何构建网络信息安全防护体系？

2025-12-08

Bun × Anthropic：AI 运行时变革的信号？

2025-12-03

MCP是不是真凉了？

2025-12-01

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB