免费POC, 零成本试错
FDE知识库

FDE知识库

学习大模型的前沿技术与行业落地应用


收藏

Anthropic官方站台,颠覆认知:给模型"松绑",它反而更听话

发布日期:2025-10-07 08:20:00 浏览次数: 2376
作者:AI产品自由

微信搜一搜,关注“AI产品自由”

推荐语

Anthropic最新研究揭示:减少对AI模型的约束,反而能激发其更强大的自主决策能力。

核心内容:
1. 传统AI开发框架的四大束缚及其局限性
2. Anthropic提出的"松绑"理念与智能体新定义
3. 直接对比案例展示解放模型后的性能提升

杨芳贤
53AI创始人/腾讯云(TVP)最具价值专家

openai 向左,anthropic 向右。

一个围绕应用,一个围绕Agent。

Anthropic官方视频:关于他们如何制作智能体的思考。

虽然在推广他们的SDK,但里面还是有不少思考

因为原文是播客 + 英文的形式,所以我做了一些整理和排版,方便阅读。

原址:https://www.youtube.com/watch?v=XuvKFsktX0Q&t=5s

开篇:智能体开发的关键转折

在 AI 智能体开发领域,一个反直觉的现象正在发生:过去帮助模型的"脚手架",现在反而成了阻碍。》

当 Anthropic 团队发现一些客户升级到新模型后,性能提升并不明显时,他们深入调查发现了问题所在——不是模型不够强,而是开发者自己构建的约束框架,限制了模型智能的发挥。

这个发现引发了整个智能体开发理念的根本转变:从"如何约束模型"转向"如何解放模型"。


一、核心理念:给模型松绑

什么是真正的智能体?

在 Anthropic 的定义中,智能体不是简单的自动化工作流,而是:

模型具有自主性,能够自己选择调用哪些工具、处理结果、决定下一步行动。

这个定义的关键在于"自主性"——不是开发者预定义路径,而是模型根据情况动态决策。

为什么要"松绑"?

过去的问题:脚手架成为负担

早期开发者为了让模型"可控",会构建大量框架:

  • • 预定义执行路径
  • • 设置各种护栏和边界
  • • 用复杂编排逻辑引导模型

这在模型能力有限时是必要的,但随着模型智能提升,这些约束反而:

  • • 阻碍模型发挥真实能力
  • • 限制模型发现新的解决方案
  • • 让新模型的提升无法体现

四种典型束缚及其问题

① 工作流束缚(思维层)

预定义 Claude 应该走的路径。

例如规定"先搜索 → 再分析 → 最后总结"这样的固定流程。

问题:路径过于僵化,模型无法根据实际情况灵活调整策略。当遇到特殊场景时,预设的流程可能完全不适用。

② 重框架束缚(工具层)

使用复杂笨重的 Agent 开发框架(如 LangChain)。

这类框架往往:

  • • 概念复杂:Chain、Agent、Memory、Tool 等大量抽象概念
  • • 代码量大:为了适配框架需要写大量配置代码
  • • 升级受限:模型变强了,但框架反而成为性能瓶颈

对比案例

  • • LangChain 实现搜索:需要学习 Tool 概念 → 配置 Agent → 设置 Memory → 写一堆胶水代码
  • • Claude 直接实现:开启 Web Search 开关 → 一行搞定

③ 脚手架束缚(实现层)

各种控制流程的辅助代码。

例如:手写工具输出解析逻辑、用 if-else 判断下一步执行什么、各种异常处理和重试机制。

问题:开发者以为是在"帮助"模型,实际上是在限制模型的自主决策能力。模型本身已经能处理这些逻辑,额外的脚手架反而添乱。

④ 过度规则束缚

设置了太多不必要的约束和规则。

问题:限制了 AI 的创造力,让它无法找到更优的解决方案。

现在的理念:工具而非框架

Brad Abrams(平台 PM 负责人)的核心观点:

“模型已经有很多能力,事实上即使是当前一代模型,里面的智能远比我们能够解锁的要多。如果你只是给模型它需要的工具,让它自由,让它能够以正确的方式使用这些工具,你就会得到很好的结果。”

实践案例:Web Search

Anthropic 推出服务器端 web search 工具后,一个有趣的现象出现了:

开发者只需要

  • • 打开 web search 开关
  • • 给模型一个研究任务

模型会自主

  • • 决定搜索什么关键词
  • • 评估哪个搜索结果更相关
  • • 对有价值的链接进行 web fetch
  • • 基于获取的信息决定下一步搜索策略
  • • 完成深度研究任务

整个过程几乎不需要额外的提示词或编排逻辑。

这揭示了一个深刻的转变:系统智能的应用点,从开发者的编排转向模型的自主决策。


二、开发实践:如何开始构建智能体

推荐起点:Claude Code SDK

对于刚开始构建智能体的开发者,Anthropic 强烈推荐 Claude Code SDK。

常见误解:“这不是编码工具吗?我不是在做编码应用。”

真实情况:Claude Code SDK 本质上是一个通用智能体 harness(循环运行时)

当团队从中移除编码特定部分时,他们发现剩下的只是:

  • • 一个智能体循环
  • • 访问文件系统的能力
  • • 一组 Linux 命令行工具
  • • 编写和执行代码的能力

这些都是通用能力,可以解决各种各样的问题。

SDK 的核心价值

  • • 自动管理 prompt caching
  • • 处理工具调用循环
  • • 让开发者从更高的抽象层开始
  • • 避免每个人重复实现相同的基础设施

关键工具和功能

1. 上下文管理:整理模型的"桌面"

问题:长运行的智能体任务可能产生大量工具调用,每个占用成百上千 tokens。

典型场景:一个研究任务可能触发 10-100 次工具调用,每次调用结果占用 100-1000 tokens,很快就会导致上下文窗口爆满,影响模型的专注度和性能。

解决方案

① 智能删除旧工具调用

模型可以自主移除已经处理过的、不再需要的工具调用结果。

⚠️ 关键原则:只删除几轮之前已经完成决策的工具调用,千万不要删除刚调用的内容,否则模型会重复调用同一个工具。

② 墓碑标记(Tombstone)机制

删除工具调用时不是完全抹除,而是留下一个简短的"墓碑标记"。

例如:删除一次搜索工具调用后,留下注释:“这里曾调用过 Web Search 工具”

作用

  • • 告诉模型"这里曾经有什么",避免完全失忆
  • • 防止模型重复调用已经用过的工具
  • • 保持上下文的连续性,同时大幅减少 token 占用

③ 保留最近工具调用

始终保留最近几次的工具调用结果,确保模型有足够信息做当前决策。

类比:就像整理桌面和笔记本——把旧资料归档(墓碑),保留最近的工作材料(最近调用),清理后可以更专注当前任务。

2. 智能体记忆:从经验中学习

人类 vs 模型的本质差异

对比维度
人类
传统模型
第1次执行
基础表现
A级表现
第5次执行
显著提升
 ✓
A级表现(几乎相同)
学习能力
从经验中成长
每次都是"新手"

这就是问题所在:人类会越做越好,模型却在原地踏步。

记忆工具的突破

让模型能够像人类一样"从经验中学习"。

工作机制

  1. 1. 执行中做笔记:模型在任务过程中主动记录经验
  • • “Wikipedia 的信息比较可靠”
  • • “应该优先使用数据库 A”
  • • “这个 API 调用方式更稳定”
  • 2. 任务前读笔记:下次执行类似任务时,先查看历史笔记
  • 3. 基于经验决策:根据过往积累的知识做出更优选择
  • 技术实现

    • • Anthropic 提供记忆工具 API
    • • 开发者决定存储位置(云存储、本地数据库等)
    • • 在控制权和便利性之间灵活平衡

    效果:智能体能够持续学习,任务执行质量随时间提升,真正像人类员工一样从经验中成长。

    3. Web Search & Fetch:自主研究能力

    模型可以:

    • • 自主决定搜索策略
    • • 评估搜索结果质量
    • • 深度抓取相关内容
    • • 迭代优化研究路径

    三、企业应用:业务价值与规模化

    用例选择:超越技术思考

    Caitlin Lesse(工程负责人)的建议:

    企业在选择智能体用例时,应该认真思考:

    • • 业务价值是什么?
    • • 真的会节省这么多工程时间吗?
    • • 能消除多少手工工作?
    • • 期望的结果是什么?

    能够清晰阐明预期结果,有助于更好地定义智能体的范围。

    从原型到生产:SDK 可以规模化吗?

    回答:可以

    Claude Code SDK 提供的是一个智能体循环运行时,可以部署到任何你需要的位置。

    但 Anthropic 的野心不止于此——他们正在构建:

    • • 更高阶的抽象,让企业开箱即用
    • • 规模化的可观测性工具
    • • 帮助企业真正"提升智能天花板"的平台能力

    可观测性:长运行任务的关键

    挑战

    • • 智能体可能执行数十甚至上百次工具调用
    • • 如何确保它在做正确的事?
    • • 如何审计和调试?
    • • 如何优化提示词和工具配置?

    解决方案: Anthropic 将可观测性作为平台重点方向,让企业能够:

    • • 追踪智能体的决策过程
    • • 审计自主行为
    • • 调整和优化性能

    这对于需要部署可信智能体的企业至关重要。


    四、平台优势:为什么用官方平台?

    不只是"更方便",而是"更强大"

    内部协同优势

    • • 平台团队与研究团队在同一屋檐下
    • • 确保抽象层最适配模型能力
    • • 每次模型发布,平台能力自动提升

    Caitlin 的观点:

    “如果目标是帮助用户真正提升智能天花板,那么更高阶的抽象不仅仅是让它更容易,而是我们如何真正帮助你获得最好的结果。因为我们和研究在同一个房间,我们知道如何确保我们的抽象、我们的智能体循环将非常强大,非常擅长与 Claude 一起工作。”

    从 API 到完整生态系统

    Claude 开发者平台(前身 Anthropic API)的演变:

    过去:简单的模型访问接口

    现在:完整平台,包含:

    • • Messages API
    • • Prompt Caching(提示词缓存)
    • • Batch API(批处理)
    • • Web Search & Fetch
    • • Code Execution(代码执行)
    • • Context Management(上下文管理)
    • • Agent Memory(智能体记忆)

    验证:连 Claude Code 这样的内部产品都构建在公共平台之上。


    五、未来展望:自我改进的飞轮

    近期路线图

    Caitlin 描绘的愿景:

    将三个要素结合起来:

    1. 1. 更高阶的抽象 - 更简单地获得最佳结果
    2. 2. 可观测性 - 从长运行任务获得洞察
    3. 3. 记忆能力 - 从经验中学习

    这将形成一个自我改进的飞轮

    • • 智能体不只是完成任务
    • • 而是随着时间越做越好
    • • 持续优化自己的表现

    长期愿景:给 Claude 一台计算机

    Brad 最兴奋的方向:

    “如果我们在 Anthropic 雇用一个员工,但不给他们一台计算机,他们不会非常成功。现在基本上每个人都在使用没有计算机的 Claude。”

    当前进展

    • • 代码执行工具:模型可以在 VM 上编写和执行代码
    • • 处理图像、分析 Excel、创建数据可视化

    未来想象

    • • 持久的计算环境
    • • 模型可以按需组织文件
    • • 按自己想要的方式设置工具
    • • 真正像一个有完整工作环境的员工

    结语:从编排者到赋能者

    Anthropic 的智能体开发理念,核心是一个思维方式的转变:

    过去:开发者是编排者

    • • 设计执行路径
    • • 设置约束边界
    • • 用脚手架引导模型

    现在:开发者是赋能者

    • • 提供工具而非框架
    • • 解放而非约束
    • • 让模型发挥真实智能

    Alex Albert 在访谈开头的一句话,揭示了这个转变的深层原因:

    “作为开发者,我的创造力在某个时候就结束了。我只能想到这么多用例,但模型,面对任何人带来的任何东西,都会找到方法去做那件事。”

    当我们给模型足够的工具和自由,它能发现我们想不到的解决方案。

    这就是"给模型松绑"的真正含义——不是放任不管,而是相信模型的智能,为其提供发挥能力所需的一切,然后让它自主决策。

    随着模型能力持续提升,这个理念将变得越来越重要。智能体的未来,不是更重的框架,而是更轻的约束、更强的工具、更大的自由。


53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询

扫码登录
登录即表示您同意《53AI网站服务协议》
服务协议

欢迎您使用【53AI 官方网站】(以下简称“本网站”或“我们”)。本《会员服务协议》(以下简称“本协议”)是您(以下简称“会员”或“用户”)与【深圳市博思协创网络科技有限公司】之间关于注册、登录及使用本网站会员服务所订立的法律协议。

在您注册或登录前,请务必审慎阅读、充分理解各条款内容,特别是免除或限制责任的条款、知识产权条款、争议解决条款等。此类条款将以加粗形式提示您注意。 当您通过微信公众号授权、手机验证码验证或其他方式成功登录本网站时,即视为您已完全理解并同意接受本协议的全部内容。

一、 定义

本网站:指由【深圳市博思协创网络科技有限公司】运营的,域名为【53ai.com】的网站及相关移动端页面。

会员服务:指本网站向注册会员提供的知识库文章查阅、内容检索及其他相关增值服务。

知识库内容:指本网站发布的包括但不限于文字、图表、数据、研究报告、行业分析等数字化内容资源。

二、 账号注册与登录

登录方式:本网站支持以下登录方式,您可根据实际情况选择:

微信公众号授权登录:您同意将您的微信OpenID信息授权给本网站,用于创建或关联会员账号。

手机验证码登录:您需提供真实有效的手机号码,并通过短信验证码完成身份验证与登录/注册。

账号安全:您的账号仅限您本人使用,禁止赠与、借用、租用、转让或售卖。因您保管不善导致的账号被盗、密码泄露等损失,由您自行承担。

实名认证:根据相关法律法规要求,我们可能要求您在特定功能下完成实名认证。如您拒绝提供,可能无法使用部分或全部服务。

未成年人保护:若您未满18周岁,请在法定监护人的陪同下阅读本协议,并在征得监护人同意后使用本服务。

三、 服务内容与规范

知识库查阅权限:会员登录后,有权按照其会员等级对应的权限范围,在线浏览、检索本网站知识库中的相关文章及内容。

服务变更:我们有权根据业务发展需要,调整、变更或终止部分服务内容,并将以网站公告、公众号消息等方式提前通知。

禁止行为:您在使用服务时不得实施以下行为:

利用技术手段批量爬取、下载、转存知识库内容;

将知识库内容用于商业目的或未经授权地向第三方传播;

干扰本网站正常运行或侵犯其他用户合法权益;

发布违法违规信息或从事违反公序良俗的活动。

四、 知识产权声明

权利归属:本网站知识库中的排版设计、软件代码等内容的知识产权均归【公司全称】或原权利人所有,受《中华人民共和国著作权法》等法律保护。

有限许可:本网站授予会员一项非独占、不可转让、不可转授权的普通许可,仅限于个人学习、研究之目的在线查阅知识库内容。

侵权追责:未经书面许可,任何单位或个人不得以任何形式复制、转载、摘编、镜像、汇编或以其他方式使用上述内容。一经发现,我们保留追究其法律责任的权利。

五、 个人信息保护

我们重视对您个人信息的保护。关于我们如何收集、使用、存储和保护您的个人信息,请单独阅读 《隐私政策》。

您通过微信公众号授权或手机号验证所提供的信息,我们将严格按照《个人信息保护法》的规定处理,仅用于身份识别、服务提供及安全验证等必要用途。

您可以随时通过网站设置或联系客服行使查阅、更正、删除个人信息及撤回授权同意的权利。

六、 免责声明

内容准确性:知识库内容仅供参考,不构成专业建议。我们不对其完整性、准确性、时效性作任何明示或暗示的保证,您应自行判断并承担使用风险。

不可抗力:因自然灾害、政策法规变化、网络故障、第三方平台接口异常(如微信接口维护、运营商短信通道故障)等不可抗力导致的服务中断或延迟,我们不承担违约责任。

第三方链接:本网站可能包含指向第三方网站的链接,该等网站的内容和服务不受我们控制,请您自行甄别风险。

七、 违约责任

如您违反本协议约定,我们有权视情节采取警告、限制功能、暂停服务、注销账号等措施,并保留要求赔偿损失的权利。

如因您的违约行为导致我们遭受行政处罚、第三方索赔或商誉损失,您应承担全部赔偿责任(包括但不限于罚款、赔偿金、律师费、公证费等)。

八、 法律适用与争议解决

本协议的订立、执行和解释均适用中华人民共和国大陆地区法律。

因本协议产生的或与本协议有关的任何争议,双方应友好协商解决;协商不成的,任何一方均可向【公司所在地】有管辖权的人民法院提起诉讼。

九、 其他

本协议构成双方就本服务达成的完整协议,取代此前任何口头或书面约定。

本协议任一条款被认定为无效或不可执行的,不影响其他条款的效力。

我们对本协议享有最终解释权,并在法律允许的范围内保留随时修改的权利。修改后的协议一经公布即生效,继续使用服务即视为同意修订内容。


已查阅