我要投稿

VLLM与PagedAttention实现快速大模型推理服务

发布日期：2024-07-20 08:04:19 浏览次数： 4374

摘要

本文提出了一种名为 PagedAttention 的新型注意力算法，以及一个基于该算法构建的大模型（LLM）服务系统 vLLM。该系统通过高效的内存管理，显著提高了 LLM 的吞吐量。PagedAttention 算法受到操作系统中虚拟内存和分页技术的启发，允许在非连续的分页内存中存储连续的键值对。

vLLM 系统通过块级内存管理和抢占式请求调度，实现了近乎零浪费的键值缓存（KV cache）内存，并在请求之间灵活共享 KV 缓存。实验结果显示，vLLM 在保持相同延迟水平的情况下，将流行 LLM 的吞吐量提高了 2-4 倍。

问题现状

大模型（LLM）的高吞吐量服务需要同时处理大量请求，现有系统在管理每个请求的键值缓存（KV cache）内存时存在挑战，因为这些内存需求巨大且动态变化。当管理效率低下时，内存会因碎片化和冗余复制而显著浪费，限制了批量处理的大小。现有的 LLM 服务系统在管理 KV 缓存内存时存在内部和外部内存碎片化，且无法利用内存共享的机会。

解决方案

PagedAttention 算法：一种受操作系统虚拟内存和分页技术启发的注意力算法，允许在非连续的内存空间中存储连续的键和值。
vLLM 系统：一个基于 PagedAttention 构建的高吞吐量分布式 LLM 服务引擎，通过块级内存管理和抢占式请求调度，实现了高效的内存利用。
内存管理：vLLM 通过将 KV 缓存划分为固定大小的块，并在需要时动态分配这些块，从而减少了内存碎片化和浪费。
解码算法支持：vLLM 支持多种解码算法，如并行采样和束搜索（beam search），通过内存共享机制进一步提高内存效率。

实验数据效果

吞吐量提升：vLLM 在不同模型和工作负载上的评估显示，其吞吐量比现有的最先进系统（如 FasterTransformer 和 Orca）提高了 2-4 倍。
内存效率：通过 PagedAttention 和 vLLM 的内存管理策略，显著减少了内存浪费，提高了内存利用率。
延迟保证：在提高吞吐量的同时，vLLM 保持了与现有系统相似的延迟水平。

后续扩展

分布式执行：vLLM 支持在分布式 GPU 上执行大型 LLM，通过模型并行策略进一步提高扩展性。
内存管理优化：vLLM 的内存管理策略可以应用于其他具有类似内存需求的 GPU 工作负载，尽管这需要针对具体工作负载进行优化。
decoding算法扩展：vLLM 展示了对多种解码算法的支持，未来可以进一步扩展以支持更多复杂的解码场景

视频地址：

https://www.bilibili.com/video/BV1TN4y1B7Fs

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-05-27

我把 OpenAI Codex 官方案例全跑了一遍

2026-05-27

一个Agent工程师听完VC的2小时播客后想通的事

2026-05-27

考虑把 Claude Code 全量切换到 Grok Build 了

2026-05-27

从透明开发到系统工程：AgentScope 2.0 发布

2026-05-27

大神Karpathy 发明 autoresearch，仅用 Markdown 就做出了自动化研究循环

2026-05-27

Claude Code 新安全插件：写代码时先拦漏洞

2026-05-26

Routa 桌面版发布：内建 Harness 工程的 AI Coding 研发协作工作台

2026-05-26

面壁智能BitCPM-CANN：端侧AI的内存革命

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

Claude Opus 4.7刚刚曝光！Claude Code一夜重构，7x24小时替你打工

2026-04-15

OpenAI Codex CLI 完整使用指南

2026-04-07

刚刚Qwen 3.6 Plus上线预览：1M上下文，阿里Coding/Agent翻身战打响

2026-03-31

2026年国内如何注册 Claude 账号教程

2026-03-13

Claude Code 和 Codex 接入 Figma MCP 保姆级教程

2026-04-07

独家| DeepSeek-V4终于要来了：梁文锋憋半年大招，多模态+长期记忆全面破局

2026-03-17

香港终于能直接用 Gemini 了，内地用户能用上吗？

2026-03-17

编程选GPT-5.4，还是GPT-5.3-Codex？

2026-03-21

GPT5.5来了，最大特点解析

2026-04-24

刚刚，GPT-5.4 发布，百万上下文、最强全能模型

2026-03-06

大家都在问

如何使用Codex的Goals机制完成长程任务？

2026-05-26

Codex 的 computer use 功能，为什么这么好用？

2026-05-23

前有用友YonClaw，今有金蝶灵基，中国软件双雄的AI底牌谁能笑到最后？

2026-05-21

Harness Engineering：AI 能在真正"出事会炸"的后端系统里写代码吗？

2026-05-19

谁来给企业端即将大规模入职的Agent盖办公室？

2026-05-09

鹅厂员工觉得好的code模型应该具备什么能力？

2026-05-09

Markdown要被抛弃了？Claude Code工程师自曝：我已彻底放弃使用Markdown！团队倾向使用HTML！网友：其他编辑工具会被淘汰吗？

2026-05-09

AI吞噬软件的叙事要分化了？

2026-05-08

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件 FDE AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部