微信扫码
添加专属顾问
OpenAI首席科学家揭秘:AI自主研究的未来已来,2028年或将实现全自动研究系统。 核心内容: 1. OpenAI最新目标:打造能独立处理复杂问题的"AI研究员"系统 2. 首席科学家详解技术路径与2028年里程碑计划 3. 行业竞争格局下OpenAI的战略布局与愿景
事实上,这类宏大愿景并不新鲜。通过解决世界上最困难的问题来拯救世界,是所有顶尖 AI 公司的公开使命。德米斯·哈萨比斯(Demis Hassabis)2022 年就告诉过《麻省理工科技评论》,这是他创办 DeepMind 的初衷。Anthropic 的 CEO 达里奥·阿莫迪(Dario Amodei)说,他正在数据中心里打造一个“天才之国”。OpenAI 的 CEO 山姆·奥特曼(Sam Altman)想攻克癌症,对此帕乔基表示,OpenAI 现在已经具备了实现目标所需的大部分条件。
今年 1 月,OpenAI 发布了 Codex,一款基于智能体的应用,可在本地或云环境中生成并执行代码任务。它具有分析文档、生成图表、制作收件箱和社交媒体的每日摘要等功能。(其他公司也发布了类似工具,比如 Anthropic 的 Claude Code 和 Claude Cowork。)
OpenAI 称,公司大多数技术人员现在工作中都在使用 Codex。帕乔基认为,可以将 Codex 看作 AI 研究员的一个非常早期的版本,他预计 Codex 会有根本性的提升。
关键是让系统能在更长的时间内运行,同时减少对人类指导的依赖。“我们对自动化研究实习生的真正期待是,你可以把那些一个人需要花几天时间完成的任务交给它。”帕乔基说。
“很多人都对构建能进行更长周期科学研究的系统感到兴奋,”艾伦人工智能研究院的研究科学家道格·唐尼(Doug Downey)认为,这主要是受到代码智能体成功经验的驱动。“你能把相当复杂的编程任务交给 Codex 这样的工具,这非常有用,也令人印象深刻。与此同时,这也带来了一个更大的问题:我们是否能将这种能力拓展到编程之外,在更广泛的科学领域做到类似的事情?”
对帕乔基来说,答案显然是“能”。他认为,这只是沿着我们已有的路径继续往前走,全面能力的提升也会让模型在没有帮助的情况下工作更久。他以 2020 年 GPT-3 到 2023 年 GPT-4 的飞跃作为例子。他指出,GPT-4 在处理问题时的持续能力远超前代,即使没有专门训练也是如此。
推理模型带来了又一次飞跃。训练大语言模型逐步解题、在犯错或走入死胡同里时回溯,也让模型在更长时间段内的工作能力得到了提升。帕乔基相信,OpenAI 的推理模型还会继续进步。
与此同时,OpenAI 也在通过给系统喂入特定的复杂任务样本来训练它们更长时间地独立工作,比如数学和编程竞赛中的高难度题目。这些题目迫使模型学会追踪超长文本,将问题拆分成多个子任务并加以管理。
但他们的目的不是造出一个只会赢数学竞赛的模型。帕乔基说,这其实是在把技术推向真实世界之前,先验证它的可行性。“如果我们真的想做,我们可以造出一个出色的 AI 数学家。但这不是我们现在要优先做的事,因为到了你相信自己能做到的时候,有更紧迫的事情要做。我们现在更专注于在真实世界中有意义的研究。”
目前的工作方向是把 Codex 在编程方面的能力推广到通用问题解决上。“编程领域正在发生巨大的变化,”他说,“我们的工作方式和一年前完全不同了。没有人还在一直手动编辑代码。取而代之的是,你管理一组 Codex 智能体。”按照这个逻辑,如果 Codex 能解决编程问题,它就能解决任何问题。
加速拐点已经出现
过去几个月,OpenAI 确实取得了一些重要成果。在若干未解数学问题上,研究人员利用 GPT-5 系列模型(驱动 Codex 的大语言模型)发现了新解法,并在一些生物学、化学和物理学难题中突破了看似走不通的困境。
“看着这些模型提出大多数博士生至少要花好几周才能想到的点子,我预计这项技术在不久的将来会带来更多加速。”帕乔基说。
但帕乔基承认,事情还没有尘埃落定,他也理解为什么有些人仍然怀疑这项技术究竟能带来哪些变革。他认为,这取决于每个人的工作方式和需求。“我能理解有些人觉得它目前还不太有用。”他说。
他告诉我们,一年前他甚至不用自动补全——这是生成式编程技术最基础的版本。“我对自己的代码非常挑剔,”他说,“能自己在 vim 里敲出来,我就自己敲。”(vim 是一款深受硬核程序员喜爱的文本编辑器,使用大量键盘快捷键而非鼠标来操作。)
但当他看到最新模型的表现后,想法改变了。他仍然不会把复杂的设计任务交出去,但当他只是想快速验证几个想法时,它是个省时利器。“一个周末就能让它跑完以前我需要花一周写代码才能做的实验。”他说。
“我还没觉得它到了可以放手让它主导整个设计的程度,”他补充道,“但当你看到它做出了一件需要花一周时间才能完成的事,这很难反驳。”
帕乔基的计划是把 Codex 这类工具现有的问题解决能力大幅增强,然后推广到各个科学领域。唐尼也认为自动化研究员的构想非常酷:“如果明天早上回来,发现智能体干了一堆活,有新结果可以看,那会非常令人兴奋。”
但他提醒,构建这样一个系统可能比帕乔基描述的要难。去年夏天,唐尼和同事们在一系列科学任务上测试了几个顶尖大语言模型。OpenAI 最新的模型 GPT-5 名列前茅,尽管它仍然会犯很多错误。
“如果你需要把多个任务串联在一起,连续做对好几个的概率往往会下降。”他说。唐尼承认这个领域进展很快,他还没有测试最新版本的 GPT-5(OpenAI 两周前发布了 GPT-5.4)。“所以那些结果可能已经过时了。”他说。
安全性与治理的关键未解问题
那么,一个在几乎没有人类监督的情况下能独立解决复杂问题的系统,可能带来哪些风险?帕乔基告诉《麻省理工科技评论》,OpenAI 内部一直在讨论这些风险。
“如果你相信 AI 即将显著加速研究,包括 AI 自身的研究,这对世界来说是一个巨大的变化,这是一件大事。”他告诉《麻省理工科技评论》,“而且,伴随着一些严肃的未解问题。如果它这么聪明、这么能干,能运行整个研究项目,万一它做了坏事呢?”
在帕乔基看来,这种情况可能以多种方式发生:系统可能失控,可能被黑客入侵,也可能只是误解了指令。
目前 OpenAI 应对这些问题的最主要技术手段,是训练推理模型在工作过程中分享它们正在做什么的细节。这种监控大语言模型的方法被称为“思维链监控”(chain-of-thought monitoring)。
简单来说,大语言模型在逐步执行任务时,会被训练在一种“草稿本”上记录自己正在做的事情。研究人员可以通过这些笔记,在一定程度上用于分析和评估模型行为。近日,OpenAI 发布了关于如何在内部使用思维链监控来研究 Codex 的新细节。
“一旦系统开始在大型数据中心里长时间自主运行,我认为思维链监控将成为我们真正依赖的东西。”帕乔基说。
其设想是用其他大语言模型来监控 AI 研究员的草稿本,在不良行为成为问题之前就识别到它,而不是试图从一开始就阻止不良行为的发生。人类对大语言模型的理解还不够深入,无法做到完全控制。
“我觉得要真正说‘好了,这个问题解决了’,还需要很长时间,”他说,“在你能真正信任这些系统之前,你肯定需要有限制措施。”帕乔基认为,强大的模型应该部署在沙箱环境中,与任何它们可能破坏或利用来造成伤害的东西隔离开。
现在,AI 工具已经被用于发起新型网络攻击,有人担心它们会被用来设计合成病原体作为生物武器。“这将是一件非常奇异的事情。这是一种在某些方面前所未有的高度集中的权力,”帕乔基说,“想象一下,你进入一个世界,一个数据中心就能完成 OpenAI 或 Google 能做的全部工作。过去需要大型组织才能完成的事情,现在几个人就够了。”他认为,这对各国政府来说是一个巨大的挑战。
但有些人会说,政府本身就是问题的一部分。比如,美国政府想在战场上使用 AI。Anthropic 与五角大楼最近的对峙表明,社会各界对于这项技术应该和不应该被如何使用远未达成共识,更不用说由谁来划定红线。在那场争端的紧接着,OpenAI 就站出来与五角大楼签了协议,取代了竞争对手。局面仍然混沌不明。
《麻省理工科技评论》就此追问帕乔基:是真的相信其他人能解决这些问题,还是作为未来的关键设计者,感受到了个人责任?“我确实感受到了个人责任,”他说,“但我不认为 OpenAI 仅凭自己就能解决这个问题,无论是把技术推向某个特定方向还是以某种特定方式设计产品。我们肯定需要政策制定者的大量参与。”
那么,我们现在身处何处?真的走在通往帕乔基所描绘的那种 AI 的道路上吗?“我在这个领域待了二十多年了,我已经不敢相信自己对某些能力到底还有多远的预判了。”他说。
OpenAI 的公开使命是确保通用 AI(一种假想的未来技术,许多 AI 乐观派相信它将能在大多数认知任务上与人类匹敌)造福全人类。OpenAI 计划通过率先造出它来实现这一目标。但帕乔基在与《麻省理工科技评论》的对话中只提到过一次 AGI,而且他很快就用“具有经济变革性的技术”这个说法进行了替代。
大语言模型和人脑不一样,他说:“它们在某些方面和人类表面上相似,因为它们基本上是在人类语言上训练的。但它们不是通过进化形成的,不像人类那样高效。”
“即使到 2028 年,我也不预期我们会得到在所有方面都和人一样聪明的系统。”他补充道,“我不认为它会发生,但我不认为那是绝对必要的。有趣的是,你不需要在所有方面都和人一样聪明,就能产生巨大的变革力量。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2026-11-19
闪购 Agent 情感设计探索
2026-11-19
【技术分享】面向 Agent 场景的千问端侧推理优化实践
2026-11-18
AgentScope Durable:让企业 Agent 持续、可靠地运行
2026-11-18
关于 Personal Agent 的思考碎片
2026-11-18
Google Antigravity 全新改版,多 agent 管理界面设计趋势
2026-11-18
OpenAI 发布 GPT-6.2 Astra 和 Sol:长程成本只需 Fable 5%
2026-11-17
HarnessPro:Agent 做得更好,为什么还能少花钱?
2026-11-17
Antigravity 保姆级教程来了,从安装设置到远程 Agent,一篇带你上手
2026-10-07
2026-10-04
2026-10-11
2026-10-09
2026-10-31
2026-09-01
2026-09-02
2026-08-31
2026-09-04
2026-09-20
2026-11-17
2026-11-16
2026-11-15
2026-11-13
2026-11-11
2026-11-08
2026-11-08
2026-11-06
欢迎您使用【53AI 官方网站】(以下简称“本网站”或“我们”)。本《会员服务协议》(以下简称“本协议”)是您(以下简称“会员”或“用户”)与【深圳市博思协创网络科技有限公司】之间关于注册、登录及使用本网站会员服务所订立的法律协议。
在您注册或登录前,请务必审慎阅读、充分理解各条款内容,特别是免除或限制责任的条款、知识产权条款、争议解决条款等。此类条款将以加粗形式提示您注意。 当您通过微信公众号授权、手机验证码验证或其他方式成功登录本网站时,即视为您已完全理解并同意接受本协议的全部内容。
一、 定义
本网站:指由【深圳市博思协创网络科技有限公司】运营的,域名为【53ai.com】的网站及相关移动端页面。
会员服务:指本网站向注册会员提供的知识库文章查阅、内容检索及其他相关增值服务。
知识库内容:指本网站发布的包括但不限于文字、图表、数据、研究报告、行业分析等数字化内容资源。
二、 账号注册与登录
登录方式:本网站支持以下登录方式,您可根据实际情况选择:
微信公众号授权登录:您同意将您的微信OpenID信息授权给本网站,用于创建或关联会员账号。
手机验证码登录:您需提供真实有效的手机号码,并通过短信验证码完成身份验证与登录/注册。
账号安全:您的账号仅限您本人使用,禁止赠与、借用、租用、转让或售卖。因您保管不善导致的账号被盗、密码泄露等损失,由您自行承担。
实名认证:根据相关法律法规要求,我们可能要求您在特定功能下完成实名认证。如您拒绝提供,可能无法使用部分或全部服务。
未成年人保护:若您未满18周岁,请在法定监护人的陪同下阅读本协议,并在征得监护人同意后使用本服务。
三、 服务内容与规范
知识库查阅权限:会员登录后,有权按照其会员等级对应的权限范围,在线浏览、检索本网站知识库中的相关文章及内容。
服务变更:我们有权根据业务发展需要,调整、变更或终止部分服务内容,并将以网站公告、公众号消息等方式提前通知。
禁止行为:您在使用服务时不得实施以下行为:
利用技术手段批量爬取、下载、转存知识库内容;
将知识库内容用于商业目的或未经授权地向第三方传播;
干扰本网站正常运行或侵犯其他用户合法权益;
发布违法违规信息或从事违反公序良俗的活动。
四、 知识产权声明
权利归属:本网站知识库中的排版设计、软件代码等内容的知识产权均归【公司全称】或原权利人所有,受《中华人民共和国著作权法》等法律保护。
有限许可:本网站授予会员一项非独占、不可转让、不可转授权的普通许可,仅限于个人学习、研究之目的在线查阅知识库内容。
侵权追责:未经书面许可,任何单位或个人不得以任何形式复制、转载、摘编、镜像、汇编或以其他方式使用上述内容。一经发现,我们保留追究其法律责任的权利。
五、 个人信息保护
我们重视对您个人信息的保护。关于我们如何收集、使用、存储和保护您的个人信息,请单独阅读 《隐私政策》。
您通过微信公众号授权或手机号验证所提供的信息,我们将严格按照《个人信息保护法》的规定处理,仅用于身份识别、服务提供及安全验证等必要用途。
您可以随时通过网站设置或联系客服行使查阅、更正、删除个人信息及撤回授权同意的权利。
六、 免责声明
内容准确性:知识库内容仅供参考,不构成专业建议。我们不对其完整性、准确性、时效性作任何明示或暗示的保证,您应自行判断并承担使用风险。
不可抗力:因自然灾害、政策法规变化、网络故障、第三方平台接口异常(如微信接口维护、运营商短信通道故障)等不可抗力导致的服务中断或延迟,我们不承担违约责任。
第三方链接:本网站可能包含指向第三方网站的链接,该等网站的内容和服务不受我们控制,请您自行甄别风险。
七、 违约责任
如您违反本协议约定,我们有权视情节采取警告、限制功能、暂停服务、注销账号等措施,并保留要求赔偿损失的权利。
如因您的违约行为导致我们遭受行政处罚、第三方索赔或商誉损失,您应承担全部赔偿责任(包括但不限于罚款、赔偿金、律师费、公证费等)。
八、 法律适用与争议解决
本协议的订立、执行和解释均适用中华人民共和国大陆地区法律。
因本协议产生的或与本协议有关的任何争议,双方应友好协商解决;协商不成的,任何一方均可向【公司所在地】有管辖权的人民法院提起诉讼。
九、 其他
本协议构成双方就本服务达成的完整协议,取代此前任何口头或书面约定。
本协议任一条款被认定为无效或不可执行的,不影响其他条款的效力。
我们对本协议享有最终解释权,并在法律允许的范围内保留随时修改的权利。修改后的协议一经公布即生效,继续使用服务即视为同意修订内容。