我要投稿

DeepSeek API 升级，支持续写、FIM、Function Calling、JSON Output

发布日期：2024-07-26 15:10:28 浏览次数： 3345

今天，DeepSeek API 迎来更新，装备了新的接口功能，来释放模型的更多潜力：

更新接口 /chat/completions

JSON Output
Function Calling
对话前缀续写（Beta）
8K 最长输出（Beta)

新增接口 /completions

FIM 补全（Beta）

所有新功能，均可使用 deepseek-chat 和 deepseek-coder 模型调用。

更新接口 /chat/completions

1.JSON Output，增强内容格式

DeepSeek API 新增 JSON Output 功能，兼容 OpenAI API，能够强制模型输出 JSON 格式的字符串。

在进行数据处理等任务时，该功能可以让模型按预定格式返回 JSON，方便后续对模型输出内容进行解析，提高程序流程的自动化能力。

要使用 JSON Output 功能，需要：

设置response_format 参数为 {'type': 'json_object'}
用户需要在提示词中，指导模型输出 JSON 的格式，来确保输出格式符合预期
合理设置 max_tokens，防止 JSON 字符串被中途截断

以下为一个 JSON Output 功能的使用样例。在这个样例中，用户给出一段文本，模型对文本中的问题 & 答案进行格式化输出。

2. Function Calling，连接物理世界

DeepSeek API 新增 Function Calling 功能，兼容 OpenAI API，通过调用外部工具，来增强模型与物理世界交互的能力。

Function Calling 功能支持传入多个 Function（最多 128 个），支持并行 Function Calling。

下图展示了将 deepseek-coder 整合到开源大模型前端 LobeChat 的效果。在这个例子中，我们开启了“网站爬虫”插件，来实现对网站的爬取和总结。

下图展示了使用 Function Calling 功能的交互过程：

3. 对话前缀续写（Beta），更灵活的输出控制

对话前缀续写沿用了对话补全的 API 格式，允许用户指定最后一条 assistant 消息的前缀，来让模型按照该前缀进行补全。该功能也可用于输出长度达到 max_tokens 被截断后，将被截断的消息进行拼接，重新发送请求对被截断内容进行续写。

要使用对话前缀续写功能，需要：

设置 base_url 为
https://api.deepseek.com/beta 来开启 Beta 功能
确保 messages 列表里最后一条消息的 role 为 assistant，并设置最后一条消息的 prefix 参数为 True，
如：{"role": "assistant": "content": "在很久很久以前，", "prefix": True}

以下为对话前缀续写功能的使用样例。在这个例子里，设置了 assistant 消息开头为 '```python\n'，以强制其以代码块开始，并设置 stop 参数为 '```'，让模型不输出多余的内容。

4. 8K 最长输出（Beta），释放更长可能

为了满足更长文本输出的场景，我们在 Beta 版 API 中，将 max_tokens 参数的上限调整为 8K。

要提高到 8K 最长输出，需要：

设置 base_url 为
https://api.deepseek.com/beta 来开启 Beta 功能
max_tokens 默认为 4096。开启 Beta 功能后，max_tokens 最大可设置为 8192

新增接口 /completions

1.FIM 补全（Beta），使能续写场景

DeepSeek API 新增 FIM补全接口，兼容 OpenAI 的 FIM 补全 API，允许用户提供自定义的前缀/后缀（可选），让模型进行内容补全。该功能常用于故事续写、代码补全等场景。FIM 补全接口收费与对话补全相同。

要使用 FIM 补全接口，需要设置 base_url 为 https://api.deepseek.com/beta 来开启 Beta 功能。

以下为 FIM 补全接口的使用样例。在这个例子中，用户提供斐波那契数列函数的开头和结尾，模型对中间内容进行补全。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-04-30

旅行规划太难做？5 分钟构建智能Agent，集成地图 MCP Server

2025-04-29

10万元跑满血版DeepSeek，这家公司掀了一体机市场的桌子｜甲子光年

2025-04-29

谷歌大神首次揭秘Gemini预训练秘密：52页PPT干货，推理成本成最重要因素

2025-04-29

一文说清：什么是算法备案、大模型备案、大模型登记 2.0

2025-04-29

MCP：AI时代的“万能插座”，大厂竞逐的焦点

2025-04-29

打起来了！MCP VS A2A，谁才是Agent的未来事实标准？

2025-04-29

Google 的 A2A 与 MCP 该如何选择？还是两种都用？

2025-04-29

一站式AI应用开发平台 Firebase Studio

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

本地部署大模型？看这篇就够了，Ollama 部署和实战

2024-08-13

16个具有“联网搜索”功能的AI：总有一个适合你！

2024-06-13

Cursor 一个真正让程序员产生危机感的 AI 编程工具

2024-08-21

OpenAI o1与GPT4o的对比分析

2024-09-23

大模型｜“上下文长度”和“上下文窗口”不再傻傻分不清楚！

2024-07-31

一文带你了解大模型——智能体（Agent）

2024-05-28

50+个AI大模型在不同领域的应用案例

2024-08-04

全面对比dify、coze、streamlit、chainlit

2024-04-26

【深度】AI搜索产品深度分析-搜索原理和商业模式分析

2024-07-09

一文读懂OpenAI新发布o1系列大模型

2024-09-17

大家都在问

打起来了！MCP VS A2A，谁才是Agent的未来事实标准？

2025-04-29

Google 的 A2A 与 MCP 该如何选择？还是两种都用？

2025-04-29

精华好文！用LLM评估LLM，真的靠谱吗？技术上如何实现？

2025-04-29

大模型是否有必要本地化部署？

2025-04-28

给 AI 小白的说明书：什么是 Manus？AI Agent为什么重要？

2025-04-28

MCP爆火背后：AI Agent的生产力时代来了吗？

2025-04-28

从MCP到超级Agent：这场AI生产力革命将淘汰谁？

2025-04-28

一文了解：为什么大模型 Agent框架（A2A）采用 JSON-RPC 2.0？

2025-04-28

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

友情链接：

CopyRight © 2012-2024 深圳市博思协创网络科技有限公司版权所有

粤ICP备17114055号

广州：广州市华景路37号(华景软件园)暨南大学科技大厦6楼（整层）

深圳：深圳市福田区泰然四路29号天安创新科技广场一期A座1204

上海：上海市浦东新区金新路58号1602室

微信扫码
和创始人交个朋友

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部