Nova Mentor

利用豆包模型构建的AI培训智能体

缘起：一个真实而巨大的痛点

我叫王伟，大家可能更熟悉我的笔名——蓝衣剑客。我是一名在软件行业摸爬滚打了12年的老人了，现在主要做AI领域的项目管理和技术科普工作。在专业领域，我有幸参与过一些AI行业标准和国家级报告的制定，也为不少大企业提供过AI咨询服务。在更广泛的社区领域，我是火山引擎新晋的领航级KOL 、WaytoAGI的专栏作者，也开设了一个叫"AIGC思维火花"的公众号。

那么，一个有这样背景的开发者，为什么会把精力投入到"AI培训智能体"这个具体的方向上呢？

因为，在过去一年多，随着生成式AI的浪潮席卷而来，我收到了很多应届生和转型者的咨询，他们的主要问题就一个："我该如何进入AI领域？我该学什么？怎么找到工作？"。

这些问题让我深刻地意识到，AI培训是一个巨大且真实的痛点需求。于是，我决定亲手打造一个解决方案，"Nova"就这样诞生了。

"Nova"是一个充满着赛博朋克风格的老师，之所以这样设定，是因为我想打造一个够"酷"的老师，同时还有一些个人情怀在里边。它可以帮助学习者进行适应性评测、学习辅导、模拟面试等任务。同时基于可解释性的规则，帮助用户由浅入深的学习内容，加深理解，达到真正的学习目标。

· · ·

核心技术实现思路

既然今天是个开发者大会，我想和大家深入聊聊构建Nova时的几个核心技术实现思路，这远比单纯展示功能要来得有价值。

1. 核心模型与技术栈的选择

在模型选择方面，我在这里用了三个比较生动的词来描述。

• "脑袋"：豆包1.5 Pro模型
  
  

  它在性能和响应速度之间取得了很好的平衡。
• "嘴巴"和"耳朵"：豆包语音合成与识别模型
  
  

  我选择它们的理由有两个：第一，语音合成模型的音色库帮我轻松实现了想要的赛博朋克风格，而语音识别模型对汉语的精准的识别能力也保证了交互的流畅。第二，我在火山方舟里可以轻松管理和接入这三款模型，哪怕在开发中遇到问题，我在一家平台上也就全部搞定了，节省了我大量的时间。
• 

在基础技术栈方面：

• 前端:
   Vite、Vue和TypeScript
• 后端:
   Python和LangChain
• 数据库:
   PostgreSQL和Redis

这些都是开发者非常熟悉和高效的组合。

2. 微调策略的确定

在如何让模型更好地适应"赛博导师"这个角色上，我面临一个重要的技术路线选择：是使用SFT这类有监督微调，还是采用Prompt Tuning（提示词微调）？我最终选择了Prompt Tuning。因为，我有快速验证的需求，Prompt Tuning是一个非常好的选择，同时，也可以让我更关注于对业务的打磨，而不是一味的打洞，跑去追求模型迭代。

确定了这个路线后，火山方舟内置的Prompt实验室就成了我的关键工具，它帮助我一站式地完成了提示词的生成、测试、调优和管理，效率非常高。

3. 开发工具的选择

在整个编码和实现阶段，我深度使用的开发工具是字节系的原生AI IDE——Trae。相比其他工具，我发现Trae在本土化开发方面非常有优势。它内置了编码智能体和多模型兼容等强大的AI功能。从个人角度出发，Trae最让我满意的是，你可以自定义智能体。

因为，我一直坚信，开发的起点是设计而非编码。而在Trae上，我可以轻松地创建一个"AI产品经理"智能体来帮我完成设计和文档工作，这让我的开发体验非常顺滑，也非常符合我的开发风格。

· · ·

攻克三大核心挑战

在这些技术决策的基础上，我将精力聚焦于攻克三个绕不开的核心挑战：人格统一性、可解释性和可适应性。

挑战一：人格统一性

一个赛博导师，需要在评估、辅导、模拟面试等多个场景中与用户互动。如果它在不同场景下性格反复横跳，用户的体验会非常糟糕。而且我们都见过太多AI了，它们要么像个没有感情的机器人，要么就披着一层薄薄的'可爱'外衣，你一问到专业问题，这层外衣立刻就被撕破，变回那句我们都听腻了的'作为一个大型语言模型...'。

我的解决方案，是设计并实现了一个"统一人格系统"。这个系统是基于LangChain进行封装的，它基于：用户适配器、词汇映射、人格注入、响应验证组成了最初的人格管理模块，然后智能体工厂则负责智能体实例的构造，在构造完毕后仍会有一个生命周期管理器对智能体进行追踪，对每一次的行为进行捕捉和判断。通过这样的设计，我确保了Nova 在任何场景下都保持着"赛博导师"的内在一致性。

挑战二：可解释性

这关乎信任与迭代，我将分开发者和用户两个方面讲。

对于用户：AI必须解释"为什么这么判断"，才能获得信任。大家可以看到，图中其实有一个用户旅程，用户在每个环节其实都需要智能体的解释，比如适应性评估，为什么这么给他定调，基于什么理论定调，具体的定调过程是什么样的，最后综合展现出的图景是什么样子的，都需要让用户有理有据的信服。只有用户相信你的产品能给他带来正向收益，才能保证用户粘性和深入使用。同时也会为下一次Agent迭代进行数据上的铺路。

对于开发者：我们需要方法来调试模糊的、概率性的错误。为此，我建立了一套完整的日志分析与数据闭环流程。具体做法分三步：

1. 全面记录:
    系统会同时生成三份日志：智能体的行为日志、用户的操作日志、以及用户的显式反馈日志。
2. 数据分析:
    我设计了一个管理套件，专门分析这三份日志，搞清楚"AI和用户互动了什么，用户是满意还是不满意"。
3. 提炼反哺:
    基于分析结果，我们可以提炼出一个"反向案例库"，明确告诉AI哪些回答是错误的、是不能做的。进而，这些积累的真实数据，形成一个正向的数据飞轮，未来可以直接用于微调，让Agent的效果越来越好。

挑战三：可适应性（真正的"因材施教"）

AI模型本身没有长期记忆，这是实现个性化的最大障碍。我的解决方法，是为每个用户建立一个动态更新的、结构化的用户画像。

我将用户的个人数据分成了四大模块：基础信息（这是静态的）、评估信息、辅导信息和回测信息（这三者都是动态累积的）。

每当用户与Nova 进行一次有效互动，相关的动态信息模块就会被更新。这样，系统就拥有了关于用户的长期记忆，能够记住他的知识盲区、学习进度和个人偏好。有了这份不断丰富的用户画像，AI才能最终摆脱空洞的建议，给出真正具有洞察力的、个性化的指导。

同时，这个设计也会服务于统一人格系统，比如，面对一个I人性格的学习者，Nova的风格会更内敛，注重深度表达。而面对E人学习者，Nova的风格会更张扬，更活泼外向。

· · ·

一些心得分享

在AI时代，我们开发者的核心价值正在从"编码"本身，转向更高层次的"设计"。

一个好的AI应用，成功的关键在于你如何设计它的目标、规则和知识体系。我的经验法则是：先用人类的智慧做好顶层设计，再将这些设计构建成AI可以理解的专项知识库，最后才是让AI去执行生成代码的任务。这样做，才能真正发挥出人与AI协作的最大效能