我要投稿

VLLM与PagedAttention实现快速大模型推理服务

发布日期：2024-07-20 08:04:19 浏览次数： 4427

摘要

本文提出了一种名为 PagedAttention 的新型注意力算法，以及一个基于该算法构建的大模型（LLM）服务系统 vLLM。该系统通过高效的内存管理，显著提高了 LLM 的吞吐量。PagedAttention 算法受到操作系统中虚拟内存和分页技术的启发，允许在非连续的分页内存中存储连续的键值对。

vLLM 系统通过块级内存管理和抢占式请求调度，实现了近乎零浪费的键值缓存（KV cache）内存，并在请求之间灵活共享 KV 缓存。实验结果显示，vLLM 在保持相同延迟水平的情况下，将流行 LLM 的吞吐量提高了 2-4 倍。

问题现状

大模型（LLM）的高吞吐量服务需要同时处理大量请求，现有系统在管理每个请求的键值缓存（KV cache）内存时存在挑战，因为这些内存需求巨大且动态变化。当管理效率低下时，内存会因碎片化和冗余复制而显著浪费，限制了批量处理的大小。现有的 LLM 服务系统在管理 KV 缓存内存时存在内部和外部内存碎片化，且无法利用内存共享的机会。

解决方案

PagedAttention 算法：一种受操作系统虚拟内存和分页技术启发的注意力算法，允许在非连续的内存空间中存储连续的键和值。
vLLM 系统：一个基于 PagedAttention 构建的高吞吐量分布式 LLM 服务引擎，通过块级内存管理和抢占式请求调度，实现了高效的内存利用。
内存管理：vLLM 通过将 KV 缓存划分为固定大小的块，并在需要时动态分配这些块，从而减少了内存碎片化和浪费。
解码算法支持：vLLM 支持多种解码算法，如并行采样和束搜索（beam search），通过内存共享机制进一步提高内存效率。

实验数据效果

吞吐量提升：vLLM 在不同模型和工作负载上的评估显示，其吞吐量比现有的最先进系统（如 FasterTransformer 和 Orca）提高了 2-4 倍。
内存效率：通过 PagedAttention 和 vLLM 的内存管理策略，显著减少了内存浪费，提高了内存利用率。
延迟保证：在提高吞吐量的同时，vLLM 保持了与现有系统相似的延迟水平。

后续扩展

分布式执行：vLLM 支持在分布式 GPU 上执行大型 LLM，通过模型并行策略进一步提高扩展性。
内存管理优化：vLLM 的内存管理策略可以应用于其他具有类似内存需求的 GPU 工作负载，尽管这需要针对具体工作负载进行优化。
decoding算法扩展：vLLM 展示了对多种解码算法的支持，未来可以进一步扩展以支持更多复杂的解码场景

视频地址：

https://www.bilibili.com/video/BV1TN4y1B7Fs

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-06-21

[译] 我所知的全部智能体工程技巧

2026-06-20

13人团队叫板Anthropic：我们造了一个更快更便宜的大模型

2026-06-20

微信左上角长出“两只眼睛”：小微测试版，可能是微信 AI 化最关键的一步

2026-06-20

Agent Skill 管理范式探索：像管理软件包一样管理 Agent 能力

2026-06-18

企业智能体的下半场，如何让智能体越用越聪明？

2026-06-18

你的 Harness 工作流真的在进步吗？我们用一场考试撕掉了遮羞布

2026-06-18

Agent 记忆，我们全都理解错了？

2026-06-18

多 Agent 并行与 Headless 模式：让 Claude Code 效率翻 10 倍

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

Claude Opus 4.7刚刚曝光！Claude Code一夜重构，7x24小时替你打工

2026-04-15

OpenAI Codex CLI 完整使用指南

2026-04-07

Claude Code 和 Codex 接入 Figma MCP 保姆级教程

2026-04-07

刚刚Qwen 3.6 Plus上线预览：1M上下文，阿里Coding/Agent翻身战打响

2026-03-31

GPT5.5来了，最大特点解析

2026-04-24

Claude Opus 4.7 发布，全网最详细解读

2026-04-17

突发！Claude Code 源码泄露，扒出这些隐藏功能

2026-03-31

GPT-6，曝光了

2026-04-05

GLM-5.1 实测：面向 Agent 长程任务的国内第一模型

2026-04-02

重磅！GPT-6曝光了

2026-04-05

大家都在问

企业智能体的下半场，如何让智能体越用越聪明？

2026-06-18

Agent 记忆，我们全都理解错了？

2026-06-18

如何利用 Harness “一句话交付产品功能”？

2026-06-10

Loop Engineering 循环工程又是什么鬼？

2026-06-10

Agent 工程化五件套：Prompt、Skill、MCP、CLI 到底怎么配合？

2026-06-07

为什么云端 Agent 基建这么难？

2026-06-06

当 AI 开始拥有“自主调度权”：Claude 4.8 这个新功能，到底有多可怕？

2026-06-03

哪些活，该交给Claude Code的 /workflows?

2026-06-02

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS Skill 提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件 FDE AI+医疗 MaxKB Palantir Glean Openclaw

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部