2026年7月9日 周四晚上19:30,报名腾讯会议了解“如何构建自进化的动态知识库(Brain)”(限30人)
免费POC, 零成本试错
FDE知识库

FDE知识库

学习大模型的前沿技术与行业落地应用


收藏

NotebookLM:一款基于长文本理解/多模态大模型设计的Google笔记应用

发布日期:2024-09-29 07:17:48 浏览次数: 7964
作者:AI产品黄叔

微信搜一搜,关注“AI产品黄叔”

太长不看:

  1. NotebookLM是Google AI Lab开发的基于AI原生的笔记应用

  2. 产品的设计逻辑完全基于Gemini 1.5 Pro的长文本理解+多模态能力

  3. 由于长文本上限,导致需要通过多个笔记本来区分内容

  4. 随着长文本/多模态的能力逐渐解锁,NotebookLM能力还会增强

  5. 目前看Google对于它的突破口还是考虑在教育领域

以下是正文:

最近NotebookLM很火,只需要提交一些文件或者链接,就可以非常快速的生成一条英文对话播客,两位AI主持人幽默风趣的和你大白话讲解内容,这可以用来帮助大家学习英语、幽默风趣的学习,等等,并且,现在还是免费的!

下面我会来讲讲NotebookLM这个新笔记品类,在开始前,请欣赏NotebookLM生成的荣耀最新发布的AI Agent手机讲解:

01 NotebookLM是什么?

刚才这段音频是怎么生成的呢?

打开https://notebooklm.google.com/ ,在左侧树形列表的+号按钮点击,提交几个相关的网页,大约10秒钟,NotebookLM就会阅读完毕,然后生成右侧的“笔记本指南”。

除此之外,笔记本指南里会有若干功能,前面我们看到的音频对话,就是右上角的音频生成功能产出的,这是NotebookLM的Audio Overview功能!生成后我放到剪映里加上配图和字幕翻译。

这只是NotebookLM的其中一个爆款功能,我们继续试试其他能力,比如我们点击“常见问题解答”,它会立即生成一个笔记:

再比如,也可以通过Chat的方式基于内容去提问:

并且可以将对话内容保存为笔记。

这就是NotebookLM,一款基于内容源的AI Copilot笔记工具,利用LLM来协助用户更好的理解内容!

02 NotebookLM的核心能力是这个!

NotebookLM其实整体的产品交互设计非常一般,甚至说有些拉胯,比如笔记内容打开后无法全屏,阅读起来非常不方便:

你很难想象,一个以笔记为基础的产品形态,在笔记阅读方面做的如此之差。

但这其实不是它的强项,它的特殊之处在于:Gemini 1.5Pro极强的长文本理解能力,注意,我说的是:长文本理解能力

上图来源是Deepmind的论文《Michelangelo: Long Context Evaluations Beyond Haystacks via Latent Structure Queries》:https://arxiv.org/html/2409.12640

结论是在MRCR任务中,Gemini 1.5 Pro是断档式的存在。

稍微解释下,MRCR的意思是,在我们和大模型对话的上下文里,给模型提出上下文相关的问题,看模型回答的质量。

这篇论文的主要思想是:是要让大模型去理解内容,而不是单纯去大海捞针,因为捞针没意义,有意义的是能让大模型理解到超长上下文!

与流行的大海捞针方法(Kamradt,2023)相比,LSQ允许我们开发出相当复杂的评估。通过要求模型从结构中提取信息,而不是从键中提取值(从大理石中提取雕塑而不是从干草堆中找针),我们可以更深入地测试语言模型的上下文理解能力,超越简单的检索。

也因此,NotebookLM难看就难看点,但核心是模型能力强啊!断档式存在啊:

03 长文本理解能力对于产品设计的影响

上一节我们说了NotebookLM的核心能力是Gemini 1.5 Pro的超强长文本理解能力,那基于这一点,NotebookLM的产品设计就会有一些不同:

一. NotebookLM是基于笔记本的:

使用NotebookLM,首先需要创建笔记本,创建笔记本后,添加来源,这样LLM才有用武之地。

为什么这么设计呢?

首先,“巧妇难为无米之炊”

要先给它设定一个箩筐(笔记本),然后在里面放进去食材(来源),NotebookLM才能给你烹饪出美食。

这是它非常特殊的一点!也带来了限制:

您可以在 NotebookLM 中使用笔记本整理项目。这类似于我们在计算机上使用文件夹整理文件的方式。每个笔记本都是完全独立的,因此 NotebookLM 无法同时访问多个笔记本中的信息

每个笔记本最多可以创建 1,000 条笔记。

因为LLM即使支持的上下文再长,也是需要考虑成本、技术实现度的,所以用笔记本的方式来限制长度,可以理解。

其次,把笔记本当成项目使用

也可以用笔记本的方式去组织内容,这样我就能比较好的区隔多个项目。

每个笔记本当成一个研究项目,这样可以更方便的管理我的内容:

二. 多种内容形态的组合

先看看添加来源,NotebookLM支持几种模式:

  • 直接上传PDF、txt、Markdown格式的文件

  • 上传Google云端硬盘内容

  • 网站链接

  • 粘贴文字

基于Gemini的多模态:“我们现在支持仅包含图像的PDF文件,可以多模态理解照片、绘图、图表、图表,甚至手写内容。”

现在NotebookLM支持上传图片的PDF类型内容了!

众所周知,Gemini还可以理解视频,相信在未来有可能会把这个能力放到NotebookLM内。


其次,每次Chat也可以选择指定的来源进行对话,这样LLM也能选择上下文去针对性理解和交流。

上面这两点,意味着什么呢?

由于Gemini是多模态大模型,其实它并不关心你每一个来源里面内容是什么?只要你选中,我就能基于内容理解,来和你交流!

好了,我们简单说了说NotebookLM的产品特点,下面来看看哪里能用上:

04 那能在哪些地方使用?

可以使用的场景,还真需要挖掘挖掘,核心前提是,基于超长内容源的理解

我说几个case:

Case1:基于公众号内容的解析

比如我把自己接近100篇和AI有关的公众号文章下载成txt,再丢上去,然后提问:

我要做一个20分钟的分享,主题是“好的AI产品是什么样的?”

它很快就给出了一条笔记,看了下内容还是很全面的!并且包含了引用,这意味着可以很方便的溯源。

社群的@HEXIN给出了一个更厉害的案例:

Case2:基于公众号内容直接写书

如果是基于公众号的内容整理成书稿,可以理解之后,编辑出书的大纲和小节,然后让NotebookLM提取信息,再用Claude或者GPT润色。这样可以很快整理出书稿。

更神奇的是,NotebookLM支持协作,所以这个案例中,作者本身的内容是授权给其他人来完成编辑的。

Case3:用来做研究

即刻的@Jing 给她朋友是这么推荐的:

我今天刚推荐给一个朋友用来扒各种外文内容写他的研究材料,跨语言总结和问答非常好用。

也是个Case

Case4:官方如何应用

下个月我们将为学习者和教育工作者举办两场不同的虚拟活动:

8月7日 太平洋标准时间上午10:30 如何充分利用NotebookLM(面向学习者/学生)

8月8日 太平洋标准时间上午10:30 作为教育工作者如何使用NotebookLM(包括在课堂环境中)

这两场活动都将持续45分钟,我们的团队将为您介绍使用案例、最佳实践,分享一些即将推出的功能和想法,然后花一些时间现场回答问题。

可以看到官方的Discord频道里也确实在思考如何嵌入到教育场景内。

Case5:使用Audio Overview理解内容

还有就是一开始就放出的case,其实这个方式对于长文来说是不大好的,核心在于插科打诨式的几分钟内容,很难真的讲清楚长文。

如果你听得到听书,会发现他们通常使用30分钟来试图讲透一本书,但每次我听完听书,再去看书,往往会很诧异,因为感觉是两本书。。。

核心还是一本书的内容外延是很大的,30分钟只能讲清楚几个要点,会忽略非常多的部分。以及一本书很多时候有完整的知识体系,对于每个人能有触动的点也不同,很难全盘覆盖。

所以,Audio OverView就更难做到了。当然这个问题在前面几个Case里或多或少都存在,但是Audio OverView更严重一些,因为目前的音频生成无法控制。

不过,用来找找乐子或者作为筛选内容还是OK的。

53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询

扫码登录
登录即表示您同意《53AI网站服务协议》
服务协议

欢迎您使用【53AI 官方网站】(以下简称“本网站”或“我们”)。本《会员服务协议》(以下简称“本协议”)是您(以下简称“会员”或“用户”)与【深圳市博思协创网络科技有限公司】之间关于注册、登录及使用本网站会员服务所订立的法律协议。

在您注册或登录前,请务必审慎阅读、充分理解各条款内容,特别是免除或限制责任的条款、知识产权条款、争议解决条款等。此类条款将以加粗形式提示您注意。 当您通过微信公众号授权、手机验证码验证或其他方式成功登录本网站时,即视为您已完全理解并同意接受本协议的全部内容。

一、 定义

本网站:指由【深圳市博思协创网络科技有限公司】运营的,域名为【53ai.com】的网站及相关移动端页面。

会员服务:指本网站向注册会员提供的知识库文章查阅、内容检索及其他相关增值服务。

知识库内容:指本网站发布的包括但不限于文字、图表、数据、研究报告、行业分析等数字化内容资源。

二、 账号注册与登录

登录方式:本网站支持以下登录方式,您可根据实际情况选择:

微信公众号授权登录:您同意将您的微信OpenID信息授权给本网站,用于创建或关联会员账号。

手机验证码登录:您需提供真实有效的手机号码,并通过短信验证码完成身份验证与登录/注册。

账号安全:您的账号仅限您本人使用,禁止赠与、借用、租用、转让或售卖。因您保管不善导致的账号被盗、密码泄露等损失,由您自行承担。

实名认证:根据相关法律法规要求,我们可能要求您在特定功能下完成实名认证。如您拒绝提供,可能无法使用部分或全部服务。

未成年人保护:若您未满18周岁,请在法定监护人的陪同下阅读本协议,并在征得监护人同意后使用本服务。

三、 服务内容与规范

知识库查阅权限:会员登录后,有权按照其会员等级对应的权限范围,在线浏览、检索本网站知识库中的相关文章及内容。

服务变更:我们有权根据业务发展需要,调整、变更或终止部分服务内容,并将以网站公告、公众号消息等方式提前通知。

禁止行为:您在使用服务时不得实施以下行为:

利用技术手段批量爬取、下载、转存知识库内容;

将知识库内容用于商业目的或未经授权地向第三方传播;

干扰本网站正常运行或侵犯其他用户合法权益;

发布违法违规信息或从事违反公序良俗的活动。

四、 知识产权声明

权利归属:本网站知识库中的排版设计、软件代码等内容的知识产权均归【公司全称】或原权利人所有,受《中华人民共和国著作权法》等法律保护。

有限许可:本网站授予会员一项非独占、不可转让、不可转授权的普通许可,仅限于个人学习、研究之目的在线查阅知识库内容。

侵权追责:未经书面许可,任何单位或个人不得以任何形式复制、转载、摘编、镜像、汇编或以其他方式使用上述内容。一经发现,我们保留追究其法律责任的权利。

五、 个人信息保护

我们重视对您个人信息的保护。关于我们如何收集、使用、存储和保护您的个人信息,请单独阅读 《隐私政策》。

您通过微信公众号授权或手机号验证所提供的信息,我们将严格按照《个人信息保护法》的规定处理,仅用于身份识别、服务提供及安全验证等必要用途。

您可以随时通过网站设置或联系客服行使查阅、更正、删除个人信息及撤回授权同意的权利。

六、 免责声明

内容准确性:知识库内容仅供参考,不构成专业建议。我们不对其完整性、准确性、时效性作任何明示或暗示的保证,您应自行判断并承担使用风险。

不可抗力:因自然灾害、政策法规变化、网络故障、第三方平台接口异常(如微信接口维护、运营商短信通道故障)等不可抗力导致的服务中断或延迟,我们不承担违约责任。

第三方链接:本网站可能包含指向第三方网站的链接,该等网站的内容和服务不受我们控制,请您自行甄别风险。

七、 违约责任

如您违反本协议约定,我们有权视情节采取警告、限制功能、暂停服务、注销账号等措施,并保留要求赔偿损失的权利。

如因您的违约行为导致我们遭受行政处罚、第三方索赔或商誉损失,您应承担全部赔偿责任(包括但不限于罚款、赔偿金、律师费、公证费等)。

八、 法律适用与争议解决

本协议的订立、执行和解释均适用中华人民共和国大陆地区法律。

因本协议产生的或与本协议有关的任何争议,双方应友好协商解决;协商不成的,任何一方均可向【公司所在地】有管辖权的人民法院提起诉讼。

九、 其他

本协议构成双方就本服务达成的完整协议,取代此前任何口头或书面约定。

本协议任一条款被认定为无效或不可执行的,不影响其他条款的效力。

我们对本协议享有最终解释权,并在法律允许的范围内保留随时修改的权利。修改后的协议一经公布即生效,继续使用服务即视为同意修订内容。


已查阅