我要投稿

GPT&llama结构对比图

发布日期：2024-09-25 20:34:50 浏览次数： 2101

作者：是海潮音

微信搜一搜，关注“是海潮音”

https://github.com/rasbt/LLMs-from-scratch/blob/main/ch05/07_gpt_to_llama/converting-gpt-to-llama2.ipynb
《Build a Large Language Model From Scratch》 book by Sebastian Raschka

今天看到Sebastian Raschka 绘制的GPT-2 XL 1.5B、Llama 2 7B以及Llama 3 8B的架构对比图。

GPT-2 XL 1.5B:

Vocabulary大小：50,257
使用了绝对位置嵌入（Absolute Positional Embeddings），最大输入长度为1600个token。
层数：48层，包含LayerNorm、Masked Multi-head Attention、Feed Forward等模块。
注意力头：25个多头注意力（heads）。
采用LayerNorm来正则化。
采用GELU

Llama 2 7B:

Vocabulary大小：32,000
采用了RoPE位置嵌入（Rotary Positional Embeddings），支持最大4096个token的输入长度。
层数：32层，与GPT-2相比少了16层。
注意力头：32个，
使用的是RMSNorm来代替LayerNorm，从而提升训练效率和收敛性。
激活函数：使用了SILU（Sigmoid-Weighted Linear Unit）代替GPT-2中的GELU。
去掉了一些Dropout层

Llama 3 8B:

Vocabulary大小：128,000，显著增大。
继续使用了RoPE位置嵌入，但支持更长的输入长度：8192个token。
层数：32层，与Llama 2相同，
引入了Grouped-Query Attention，这是一种改进的注意力机制，优化了多头注意力的处理。
使用RMSNorm进行正则化。

这里写的llama2和llama3使用SILU，Paper介绍使用了SwiGLU，二者还是有一定差别

这本书质量很高，推荐

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-09-18

LLM 基础 Function Call 能力强化：从数据构建到 RLHF 的优化闭环

2025-09-18

当AI接管键盘，程序员的价值是什么？

2025-09-18

AI 引领的企业级智能分析架构演进与行业实践

2025-09-18

OpenAI 内部揭秘：我们如何使用 Codex

2025-09-18

Shopify分享了他们做Agent的万字踩坑经验

2025-09-18

不只是写代码：Qwen Code 如何规划、执行并验证软件工程任务

2025-09-18

埃森哲：39页，AI 规模化的 “领跑者密码”（免费下载）

2025-09-18

大模型应用落地时的技术选型

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

DeepSeek-V3.1 发布，迈向 Agent 时代的第一步

2025-08-21

精|知识探索新范式：深度研究Deep Research智能体全面综述，系统、方法与应用

2025-06-21

DeepSeekV3.1 提到的 UE8M0 FP8 Scale 是什么？下一代国产芯片设计？

2025-08-21

DeepSeek V3.1 测评

2025-08-19

WAIC 2025 观察：大模型进入“效率与场景”决胜期

2025-07-29

AI大家说 | 下一代AI创业的机会在哪里？定价趋势是什么？

2025-09-08

DeepSeek突然更新V3.1：实测后才发现的亮点与槽点

2025-08-19

DeepSeek v3.1 到底有多强？与 Claude Code 一起实测！

2025-08-20

Qwen3-Coder与Claude Code深度对比：谁是你的AI编程助手？

2025-09-14

2025.9 回顾过去1年的LLM圈进展与展望

2025-09-14

大家都在问

当AI接管键盘，程序员的价值是什么？

2025-09-18

Shopify 经验贴：如何搞出一个生产级别可用的 AI Agent 系统？

2025-09-18

今年“十一”，谁还没带自己的AI讲解搭子？

2025-09-17

企业级向量数据库选型，Milvus 和Zilliz Cloud哪个更合适？

2025-09-17

OpenAI首次揭秘：7亿人到底在用ChatGPT干嘛？

2025-09-16

Qwen3-Coder与Claude Code深度对比：谁是你的AI编程助手？

2025-09-14

阿里推出夸克医疗大模型：医考70%高分背后，RAG为何是“压舱石”？

2025-09-12

AI市场调查实战：如何让AI帮你搜全网特定规格的产品？

2025-09-11

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB