微信扫码
添加专属顾问
手里有闲置本地LLM算力?教你用开源工具对外售卖变现,步骤清晰易操作。 核心内容: 1. 本地LLM闲置算力变现需求与开源工具Liaison功能介绍 2. Liaison管理客户API密钥与用量额度的操作说明 3. 快速部署Liaison对接本地模型的实操步骤
本地模型自己用着还不错,除了日常聊天,处理文档、写代码之外,算力仍然冗余,怎么把多余算力卖给需要的客户?
要考虑这些问题:模型端口开放、认证、额度、试用结束后怎么停用。把电脑账号交出去,当然不合适。客户需要的其实是:一个 API 地址、一把密钥、一个模型名称。
开源产品Liaison(https://github.com/liaisonio/liaison) 完整支持模型开放和管理。它是一个能部署在自己服务器上的开源应用访问平台,支持为本地 LLM 提供对外入口,给不同客户分配密钥、授权模型和用量额度。
模型继续在你的设备上运行,你负责维护,客户通过 API 使用。至于开放给谁、用多久、用多少,都可以分别设置。
你可以在 Liaison 里为客户创建一把专属 API 密钥,指定可用模型、到期时间和 Token 总额度,不必为这次试用另外开发一套管理后台。
设置好后,把调用地址、密钥和模型名称发给客户即可。
在工作台进入「API 密钥 → 创建密钥」,填写名称、有效天数和 Token 总额度,勾选允许调用的模型,再点击「创建」。名称可以用客户名,方便以后查找。密钥原文只显示一次,记得保存,并通过安全渠道发给客户。
客户试用满意后,双方约定价格和用量,收款后调整额度。合作结束,撤销对应密钥,不影响其他客户。
密钥列表能看到已用和剩余额度,工作台也提供用量统计与请求记录,方便查看调用情况。
Token 额度按输入与输出合计,跨模型累计,达到额度后会拒绝新请求。
准备一台带公网 IP 的 2 核轻量应用服务器部署 Liaison,模型继续在你的电脑或工作站上运行,云服务器不需要 GPU。服务端使用 Linux AMD64,提前装好 Docker 20.10 或以上版本和 Docker Compose;本地模型服务也要先跑起来。
部署 Liaison,约 3 分钟。 在轻量服务器上执行:
wget https://liaison.cloud/dl/liaison-1.15.4-linux-amd64.tar.gz
tar -xzf liaison-1.15.4-linux-amd64.tar.gz
cd liaison-1.15.4-linux-amd64
./install.sh
保存安装器给出的首次登录凭据,打开 https://你的服务器地址 登录。详细部署步骤可作参考。
安装连接器,约 1 分钟。 在「连接器 → 新建连接器」给设备起个名字,把控制台生成的安装命令复制到运行模型的设备执行。回到列表,确认连接器在线。
图中是不可用的演示命令,请使用自己控制台生成的命令,不要公开其中的连接密钥。
探测并添加 LLM,约 1 分钟。 点击连接器的「探测应用」,识别到的模型服务会单独出现在 LLM 区域。以 Ollama 为例,服务地址和支持的协议会直接列出来,不用再抄一遍 IP 和端口。
点击「添加」,Liaison 会自动检测连接、获取模型列表。应用名默认是 Ollama,也可以改成便于识别的名字。勾选要提供给客户的模型,点击「创建应用和访问」即可。 需要认证的上游先填写 API 密钥,再重新检测;没有探测到的服务仍可手动接入。
保存后,打开 LLM 工作台就能看到 API 地址和调用示例。接着按第一章节的方法给客户创建专属密钥,就可以交给对方使用了。
想先看看效果,可以在「在线体验」里发一条消息,不必先写代码接 API。切到「模型对比」,勾选模型、输入同一个问题,就能并排查看回复,判断哪个更适合客户的任务。每个模型会独立产生用量。
客户开始调用后,到「统计」查看当前用户的请求量和已报告的 Token 用量,了解服务有没有被用起来、用量怎样变化。
遇到调用失败,再去「请求记录」查具体请求的模型、状态、耗时和输入输出 Token。不记录对话正文,也不需要为此另搭一套日志后台。
统计、成功率和耗时均为演示数据,不代表真实经营或性能结果;用量统计也不等于收款账单。
假设手上有两台 DGX Spark,用来运行 DeepSeek V4 Flash。参考社区双机测试,多路并发的合计输出吞吐峰值约为 350 Token/秒。
我们按一个正常场景算:吞吐能持续跑满 30 天,产出的 Token 全部售出;输入与输出按 3∶1,输入全部按未缓存计价。借用 DeepSeek Flash 闲时价格作为固定售价——每百万输入 Token 1 元、输出 Token 4 元。
| 6,350 元 | |
| 6,020 元/月 | |
| 约 16 个月 |
设备成本按 2026 年 10 月 11 日 NVIDIA 美国商城单台 6,950 美元、假设汇率 7.00 换算,不含税运和互联配件;电费与服务器费用合计按约 330 元/月估算。
如果设备本来就买了,不妨先从闲置算力和几个真实客户开始。Liaison 帮你把 API、密钥和额度管理搭起来。
这个方案里,轻量服务器上的 Liaison 负责入口、密钥和额度管理,本地设备上的模型负责推理。
从部署上看,系统分成客户应用、云端 Liaison 服务端和本地模型设备三部分。服务端的 Manager 负责配置管理和 LLM 网关逻辑,Frontier 负责连接器接入与通道转发:
连接器从本地设备主动连接 Liaison 服务端。客户调用云端 API,请求经过密钥认证、模型授权和额度检查,再沿连接器通道到达模型;回答沿原路径返回。
所以,客户不需要直接连接你家里或办公室的模型端口,也不会拿到上游模型服务的凭据。你给他的是 Liaison 签发的调用密钥。
控制台里有两个概念:「应用」记录模型服务和地址;「访问」定义对外入口和开放哪些模型。 底层连接配置和对外使用权限分开管理。
服务端默认用 TCP 443 提供 HTTPS 入口,用 TCP 30012 接收连接器连接,需要在安全组和防火墙中放行。正式交付时,使用客户端信任且与访问地址匹配的证书。
Liaison 的私有化版本全部开源。 代码可以自行查看,服务也能部署在自己的服务器上。除了 LLM,还支持 AI agents、IDE、SSH、数据库和远程桌面等访问场景。
如果你已经有一套可用的本地模型,不妨试试开一个有期限、有额度的 API。
Liaison 正在快速迭代,欢迎一起来贡献。无论是提交代码、完善文档,还是反馈使用中遇到的问题,都能帮项目变得更好。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2026-11-16
实测腾讯 Hy4 flash:花两毛钱,就能让 AI 从零做个 3D 交互网页
2026-11-16
用 Super-agent 的理念,拆解 Octop 团队模式
2026-11-14
杀疯了,DeepSeek 又开源了全家桶应用
2026-11-14
基于大模型的超级 AI 助理!开源!会规划、有记忆、能造技能,青牛Agent想替企业省下重复建设! | gitcc.com
2026-11-14
以交互为中心:Personal Agent 的关键不是 async subagent
2026-11-14
Salesforce 昨夜开源 ASR 新模型:2.28% 错误率,登顶开放权重榜单
2026-11-14
DeepSeek 把 App 能力开放给开发者,连聊天前端也开源了
2026-11-13
AgentCore 支持 DeepSeek Harness 托管,加速企业生产化验证
2026-08-20
2026-10-12
2026-08-20
2026-08-23
2026-10-12
2026-08-23
2026-08-20
2026-11-07
2026-09-25
2026-10-11
2026-09-23
2026-09-11
2026-09-03
2026-08-31
2026-08-23
2026-08-20
2026-08-19
2026-08-14
欢迎您使用【53AI 官方网站】(以下简称“本网站”或“我们”)。本《会员服务协议》(以下简称“本协议”)是您(以下简称“会员”或“用户”)与【深圳市博思协创网络科技有限公司】之间关于注册、登录及使用本网站会员服务所订立的法律协议。
在您注册或登录前,请务必审慎阅读、充分理解各条款内容,特别是免除或限制责任的条款、知识产权条款、争议解决条款等。此类条款将以加粗形式提示您注意。 当您通过微信公众号授权、手机验证码验证或其他方式成功登录本网站时,即视为您已完全理解并同意接受本协议的全部内容。
一、 定义
本网站:指由【深圳市博思协创网络科技有限公司】运营的,域名为【53ai.com】的网站及相关移动端页面。
会员服务:指本网站向注册会员提供的知识库文章查阅、内容检索及其他相关增值服务。
知识库内容:指本网站发布的包括但不限于文字、图表、数据、研究报告、行业分析等数字化内容资源。
二、 账号注册与登录
登录方式:本网站支持以下登录方式,您可根据实际情况选择:
微信公众号授权登录:您同意将您的微信OpenID信息授权给本网站,用于创建或关联会员账号。
手机验证码登录:您需提供真实有效的手机号码,并通过短信验证码完成身份验证与登录/注册。
账号安全:您的账号仅限您本人使用,禁止赠与、借用、租用、转让或售卖。因您保管不善导致的账号被盗、密码泄露等损失,由您自行承担。
实名认证:根据相关法律法规要求,我们可能要求您在特定功能下完成实名认证。如您拒绝提供,可能无法使用部分或全部服务。
未成年人保护:若您未满18周岁,请在法定监护人的陪同下阅读本协议,并在征得监护人同意后使用本服务。
三、 服务内容与规范
知识库查阅权限:会员登录后,有权按照其会员等级对应的权限范围,在线浏览、检索本网站知识库中的相关文章及内容。
服务变更:我们有权根据业务发展需要,调整、变更或终止部分服务内容,并将以网站公告、公众号消息等方式提前通知。
禁止行为:您在使用服务时不得实施以下行为:
利用技术手段批量爬取、下载、转存知识库内容;
将知识库内容用于商业目的或未经授权地向第三方传播;
干扰本网站正常运行或侵犯其他用户合法权益;
发布违法违规信息或从事违反公序良俗的活动。
四、 知识产权声明
权利归属:本网站知识库中的排版设计、软件代码等内容的知识产权均归【公司全称】或原权利人所有,受《中华人民共和国著作权法》等法律保护。
有限许可:本网站授予会员一项非独占、不可转让、不可转授权的普通许可,仅限于个人学习、研究之目的在线查阅知识库内容。
侵权追责:未经书面许可,任何单位或个人不得以任何形式复制、转载、摘编、镜像、汇编或以其他方式使用上述内容。一经发现,我们保留追究其法律责任的权利。
五、 个人信息保护
我们重视对您个人信息的保护。关于我们如何收集、使用、存储和保护您的个人信息,请单独阅读 《隐私政策》。
您通过微信公众号授权或手机号验证所提供的信息,我们将严格按照《个人信息保护法》的规定处理,仅用于身份识别、服务提供及安全验证等必要用途。
您可以随时通过网站设置或联系客服行使查阅、更正、删除个人信息及撤回授权同意的权利。
六、 免责声明
内容准确性:知识库内容仅供参考,不构成专业建议。我们不对其完整性、准确性、时效性作任何明示或暗示的保证,您应自行判断并承担使用风险。
不可抗力:因自然灾害、政策法规变化、网络故障、第三方平台接口异常(如微信接口维护、运营商短信通道故障)等不可抗力导致的服务中断或延迟,我们不承担违约责任。
第三方链接:本网站可能包含指向第三方网站的链接,该等网站的内容和服务不受我们控制,请您自行甄别风险。
七、 违约责任
如您违反本协议约定,我们有权视情节采取警告、限制功能、暂停服务、注销账号等措施,并保留要求赔偿损失的权利。
如因您的违约行为导致我们遭受行政处罚、第三方索赔或商誉损失,您应承担全部赔偿责任(包括但不限于罚款、赔偿金、律师费、公证费等)。
八、 法律适用与争议解决
本协议的订立、执行和解释均适用中华人民共和国大陆地区法律。
因本协议产生的或与本协议有关的任何争议,双方应友好协商解决;协商不成的,任何一方均可向【公司所在地】有管辖权的人民法院提起诉讼。
九、 其他
本协议构成双方就本服务达成的完整协议,取代此前任何口头或书面约定。
本协议任一条款被认定为无效或不可执行的,不影响其他条款的效力。
我们对本协议享有最终解释权,并在法律允许的范围内保留随时修改的权利。修改后的协议一经公布即生效,继续使用服务即视为同意修订内容。