我要投稿

Dify 教程二：使用本地大模型 Ollama

发布日期：2024-07-20 12:40:39 浏览次数： 9418

使用 Ollama

还是在设置的弹窗中选择「模型供应商」，这次我们选择 Ollama，以 qwen2:7b 模型为例：

模型名称我们填入 qwen2:7b
基础 URL 填入 http://host.docker.internal:11434
其他选项可以根据自己的需求进行配置，或者也可以保持默认
然后保存即可

回到创建的应用中，在编排页面的右上角切换大模型为 qwen2:7b:

可以看到的，由于是本地大模型，所以响应速度非常快！

知识库配置嵌入模型

因为咱们本次使用 Ollama 来作为 Dify 的 AI 模型，所以在创建知识库时会有一些问题：

这是 因为 Dify 默认的系统 Embedding 模型是 OpenAI 的 text-embedding-3-large ，但是当我们使用本地大模型时，是无法连接到这个模型的，所以我们 还需要再拉取一个 Embeddinng 模型下来，这里以 nomic-embed-text 为例 ：

ollama pull nomic-embed-text

然后在 Ollama 模型设置中选择 Text Embedding：

保存之后，我们可以 修改 Dify 的默认系统模型，点击右上角的「系统默认设置」按钮进行设置 ：

再创建一个新的知识库进行测试：

也可以成功嵌入：

测试应用

接下来我们将刚刚创建的知识库添加到应用中去，并给应用添加提示词。如果不知道怎么编写提示词，还可以点击右上角的自动编排让 AI 帮助我们完成：

点击右下角的「应用」按钮，就会自动为我们添加这些提示词和开场白到应用中了：

我们可以在知识库中添加大量的 K8s 相关的资料，打造一款 K8s 大师应用。是不是很棒?

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-01-26

Dify 官方上架 Nacos A2A 插件，补全双向多智能体协作能力

2026-01-16

Dify × PaddleOCR：强强联手，深度集成重塑 Agent 工作流智能文档底座

2026-01-14

刚刚，Dify v1.11.3发布，看看是否需要升级？

2026-01-11

五步框架：把 Workflow 变成可进化的 Skill

2026-01-08

dify v1.11.2 又又三个坑，别踩了！

2026-01-06

Dify v1.11.2 今天又发现来3个缺陷，看看有什么影响？

2026-01-05

效率翻倍门槛减半：Vibe Coding + Claude-Code重构Dify开发

2026-01-04

别让你的 Obsidian 吃灰了！一键同步 Dify，打造最强本地知识库

联系获取

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

【紧急预警】Dify 用户速看：Next.js 爆 CVSS 10.0 核弹级漏洞，已被真实验证攻击

2025-12-05

核弹级漏洞！Dify中招，刻不容缓，立即修复！

2025-12-08

关于智能体（AI Agent）搭建，Dify、n8n、Coze 超详细的总结！

2025-11-11

Dify版本选择秘诀：社区版与企业版功能差异详解

2025-11-09

Dify 自建部署完全指南：从上手到放弃到真香

2025-11-20

Dify v1.10.1-fix.1 版本紧急发布！

2025-12-05

五步框架：把 Workflow 变成可进化的 Skill

2026-01-11

深夜：Dify 1.10.0事件驱动工作流程正式发布了

2025-11-14

dify 1.10.0 Event-Driven Workflows 版本发布：全新 Trigger 触发器与升级指南详解

2025-11-17

Dify 2025年技术演进总结，有你钟意的亮点吗？

2025-11-29

大家都在问

刚刚，Dify v1.11.3发布，看看是否需要升级？

2026-01-14

Dify v1.11.2 今天又发现来3个缺陷，看看有什么影响？

2026-01-06

怎样选择Dify工作流中的OCR工具？

2025-12-21

Dify回退版本翻车，你遇到了吗？

2025-12-20

Dify如何接入本地大模型？

2025-12-17

Dify 2025年技术演进总结，有你钟意的亮点吗？

2025-11-29

重大消息，刚刚Dify 1.9.1发布了！我们聊聊带来了哪些吸引人的功能特性？

2025-09-30

刚刚Dify 1.9.0正式发布，快看看有哪些新变化？

2025-09-23

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部