我要投稿
微信搜一搜，关注“AI统治世界计划”
炸裂！最强开源模型一夜之间易主。
阿里发布千问2.5模型，72B版本在MMLU、MATH、MBPP等大部分评测指标上都超过了Llama3 405B，甚至一些指标也超过了GPT4o。正式加冕最强开源模型新王！
今天要挑战用我的4GB老显卡不做量化、不做压缩，看看能不能跑起来这个72B模型。
X上边各个国家也都爆发了关于Qwen模型的讨论：
01
A100，H100暂时还没有购入，主要的原因是穷。
目前主力显卡是一个4GB的老显卡：
4GB显卡直接尝试运行时，是这个画风：
02
72B的千问用18T个token训练而成，有80层。加载这个模型大概需要37块我这样的4GB显卡。差得不多。还差36块。
因此需要想一个办法。
03
解决方案就是分层推理，每次只80层中的一层进显存：
04
代码全部开源到了开源项目AirLLM中，可以在github找到。
除了QWen2.5，AirLLM也支持Llama3 400B，Mixtral等模型。
叠个甲：4GB能跑但是速度肯定不会太快（4GB的卡还要啥自行车啊？）因此不适合chatbot等实时场景，仅适合异步数据处理等场景。
推理过程只需要几行代码：
from airllm import AutoModelMAX_LENGTH = 128model = AutoModel.from_pretrained("Qwen/Qwen2.5-72B-Instruct")input_text = [is the capital of United States?',]input_tokens = model.tokenizer(input_text,return_tensors="pt",return_attention_mask=False,truncation=True,max_length=MAX_LENGTH,padding=False)generation_output = model.generate(max_new_tokens=20,use_cache=True,return_dict_in_generate=True)output = model.tokenizer.decode(generation_output.sequences[0])print(output)
53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2025-06-15
字节跳动开源的工作流引擎真有点东西
2025-06-15
构建强大AI智能体的10大开源利器！
2025-06-14
从天价咨询到免费AI，夸克能改变志愿填报这门生意吗？
2025-06-14
开源破局，中国AI正在改写全球竞争格局！
2025-06-13
MinerU-利用专用LLM模型提取PDF内容的工具实测
2025-06-13
官宣|Milvus 2.6正式开源：内存减少 72%，速度比ES快4倍
2025-06-13
CoCo：全球首个“有记忆”的企业级AI Agent
2025-06-13
OpenAI 三连更：Team 上线 o3-pro、o3 额度翻倍、Projects 大升级！
2025-03-19
2025-03-19
2025-04-01
2025-04-13
2025-04-01
2025-04-29
2025-03-19
2025-03-23
2025-03-22
2025-04-12
2025-06-14
2025-06-10
2025-06-08
2025-05-28
2025-05-28
2025-05-26
2025-05-25
2025-05-23
回到顶部
粤ICP备17114055号