Nomic-Embed-Text-V2-MoE集成至Dify打造低代码AI应用工作流最近在折腾AI应用开发的朋友可能都有过类似的体验好不容易部署好一个强大的模型比如文本嵌入模型想把它用到实际业务里却发现还得写一堆后端接口、处理并发、设计数据库开发门槛一下子就上去了。如果你也遇到过这种“模型有了应用难做”的情况那今天聊的这个方案可能会让你眼前一亮。我们将把部署好的Nomic-Embed-Text-V2-MoE模型无缝集成到Dify这个低代码AI应用平台上。简单来说就是让这个专业的文本理解模型变成一个“即插即用”的能力模块。业务人员或者产品经理通过拖拖拽拽就能快速搭建出智能文档检索、内容去重、自动打标签这些实用功能完全不用操心背后的代码和架构。这听起来是不是省心多了接下来我就带你一步步走通这个流程看看怎么把技术能力变成业务价值。1. 为什么选择Dify与Nomic-Embed的组合在开始动手之前我们先花点时间聊聊为什么是这两个技术的组合以及它们能解决什么问题。Nomic-Embed-Text-V2-MoE这个名字有点长我们简称它为Nomic嵌入模型。它的核心能力是把一段文字比如一个句子、一段话、一整篇文章转换成一串有意义的数字也就是“向量”。这个过程叫做“文本嵌入”。这串数字非常神奇它能捕捉文字的语义信息。意思相近的文字转换出来的数字串在数学空间里的“距离”也会很近。举个例子“我喜欢吃苹果”和“苹果是一种水果”这两句话里的“苹果”指的是同一个东西那么它们生成的向量就会很相似。而“我喜欢用苹果手机”这句话里的“苹果”生成的向量就会和前两者有较大差异。模型就是通过这种方式“理解”文字的。那么理解文字之后能干嘛呢用处可大了智能搜索不再是机械地匹配关键词而是理解你的意图找到语义最相关的内容。内容去重自动发现海量文章、评论中意思重复的内容。自动分类/打标签根据文章内容自动将其归到合适的类别或打上标签。推荐系统找到用户可能喜欢的、内容相似的文章或产品。但是光有模型能力还不够。传统上要做一个具备上述功能的AI应用你需要一个完整的开发团队前端、后端、算法工程师齐上阵开发周期长成本高。这时候Dify的价值就体现出来了。你可以把它理解为一个“AI应用乐高平台”。它把大模型调用、提示词工程、知识库管理、工作流编排这些复杂的技术环节都做成了可视化的模块。你不需要写代码只需要在网页上拖拽这些模块像搭积木一样把它们连接起来就能构建出一个功能完整的AI应用。所以我们的思路就很清晰了将强大的Nomic嵌入模型作为向量化引擎接入Dify平台。利用Dify的低代码能力快速构建上层AI应用。这样技术团队专注于模型部署和优化业务团队则可以基于此快速实验和落地各种智能场景真正实现了降本增效。2. 前期准备模型部署与Dify环境在开始连接之前我们需要确保两件事模型已经就绪平台已经就位。2.1 部署Nomic-Embed-Text-V2-MoE模型首先你需要有一个已经部署好的Nomic-Embed-Text-V2-MoE模型服务。这里假设你已经通过一些常见的部署方式比如使用模型镜像、在服务器上直接运行等启动了模型并且它提供了一个标准的API接口。关键点在于这个API接口需要符合OpenAI的嵌入接口格式或者至少是兼容的。因为Dify在对接外部模型时对OpenAI格式的支持是最友好的。一个标准的请求看起来像这样curl -X POST http://你的模型服务地址/v1/embeddings \ -H Content-Type: application/json \ -d { model: nomic-embed-text-v2, input: 需要被转换成向量的文本内容 }而模型的返回应该是这样的JSON格式{ object: list, data: [ { object: embedding, embedding: [0.012, -0.005, 0.034, ...], // 一长串数字就是向量 index: 0 } ], model: nomic-embed-text-v2, usage: { prompt_tokens: 10, total_tokens: 10 } }请务必先测试你的模型服务确保它能接收这样的请求并返回正确格式的结果。这是后续一切工作的基础。2.2 配置Dify平台接下来是Dify这边。如果你还没有Dify可以去它的官网按照指引进行部署它支持Docker等多种方式安装过程比较 straightforward。安装好后打开Dify的控制台。我们主要关注两个地方模型供应商和工作流。模型供应商这里是配置各种大模型接入的地方。Dify原生支持OpenAI、Anthropic等我们需要在这里添加一个“自定义”的供应商来对接我们自己的Nomic模型。工作流这是我们之后进行可视化编排的主战场。环境准备好之后最关键的连接步骤就要开始了。3. 核心步骤将模型作为自定义能力接入DifyDify本身没有预置Nomic模型所以我们需要通过“自定义模型”的方式把它接进去。这个过程就像给Dify安装一个新的插件。3.1 在Dify中配置自定义模型供应商登录Dify后台找到“设置” - “模型供应商”页面。点击“添加模型供应商”选择“自定义”类型。在配置表单中需要填写以下关键信息供应商名称起个容易识别的名字比如“Nomic-Embedding”。API Base URL填写你的Nomic模型服务的完整地址例如http://192.168.1.100:8080/v1。注意这里需要包含到/v1这一层因为Dify会在这个地址后面拼接具体的接口路径如/embeddings。API Key如果你的模型服务需要鉴权就在这里填写密钥。如果部署在内部网络且未设置鉴权可以留空或填写任意字符如sk-dummy。填写完成后点击“保存”。此时Dify会尝试连接你提供的地址。如果配置正确通常会提示添加成功。3.2 创建自定义的文本嵌入模型添加了供应商我们还需要告诉Dify这个供应商下面具体提供哪个模型。在“模型供应商”页面找到你刚创建的“Nomic-Embedding”供应商点击进入详情或管理。点击“添加模型”。在模型配置中模型类型选择“文本嵌入”。这是最重要的一步决定了这个模型在Dify里扮演的角色。模型名称填写模型标识例如nomic-embed-text-v2。这个名称需要和你的模型服务在响应中返回的model字段一致参见前面API返回的例子。模型模式根据你的模型能力选择通常保持默认或选择“嵌入”。上下文长度填写模型支持的最大文本长度Nomic-Embed-Text-V2-MoE通常是8192。保存模型配置。至此你的Nomic嵌入模型已经作为一个“能力”正式入驻Dify平台了。你可以在后续创建知识库或工作流时像选择OpenAI的模型一样选择它。4. 实战应用构建智能文档检索工作流模型接入了我们来真刀真枪地用它解决一个实际问题搭建一个智能文档问答系统。用户输入一个问题系统从一堆内部文档里找到最相关的内容并生成一个简洁的答案。4.1 创建知识库并接入嵌入模型在Dify中知识库是存储和检索文档的核心组件。进入“知识库”页面点击“创建知识库”。填写知识库名称和描述。在“嵌入模型”选择区域你会看到一个下拉框。点开它应该就能找到我们刚刚配置好的nomic-embed-text-v2模型。选择它。知识库创建好后上传你的文档支持TXT、PDF、Word、PPT等多种格式。Dify会自动调用你选择的Nomic嵌入模型将文档切片、转换成向量并存储起来。这一步的意义在于我们用Nomic模型替代了Dify默认的嵌入模型如OpenAI的text-embedding-ada-002。对于中文场景或特定领域文档Nomic模型可能具有更好的语义理解能力从而提升检索准确率。4.2 使用工作流编排问答应用知识库准备好了我们来搭建一个自动问答的流水线。进入“工作流”页面点击“创建空白工作流”。我们会用到以下几个关键节点从左侧的节点库拖拽到画布上开始节点作为工作流的触发入口。知识库检索节点连接我们创建好的知识库。将开始节点与它相连并把用户的提问内容传递给它。这个节点内部会使用我们配置的Nomic模型将问题转换成向量并在知识库的向量数据库中进行相似度搜索返回最相关的文档片段。大语言模型节点如GPT-4、ChatGLM等用于生成最终答案。将知识库检索节点的输出即相关文档片段和用户的原始问题一起作为提示词输入给大模型让它“基于以下上下文回答问题”。结束节点输出大模型生成的答案。用连接线将这些节点按逻辑顺序连接起来开始 - 知识库检索 - 大语言模型 - 结束。配置每个节点在知识库检索节点中选择你创建的那个使用Nomic嵌入模型的知识库。在大语言模型节点中选择你喜欢的文本生成模型如GPT-4并编写好提示词模板例如“请根据以下上下文信息回答用户的问题。如果上下文信息不足以回答问题请直接说‘根据现有信息无法回答’。上下文{context} 问题{question}”。现在一个可视化的智能问答流水线就搭建完成了。你可以点击右上角的“运行”进行测试。当用户提问时工作流会先利用Nomic模型精准检索相关知识再交由大模型合成答案整个过程无需编写一行代码。5. 扩展场景解锁更多低代码AI应用基于“Nomic嵌入模型 Dify工作流”这个组合我们能玩的远不止智能问答。下面再分享几个可以快速实现的场景思路你可以直接在Dify里尝试搭建。场景一内容智能去重与聚类痛点运营人员每天收集大量行业资讯或用户反馈人工排查重复内容耗时耗力。搭建思路创建一个“文本处理”工作流。使用一个循环节点批量处理输入的文章列表。在循环体内对每一篇文章使用自定义代码节点或通过HTTP请求节点调用你的Nomic模型API计算其向量。设计逻辑将向量相似度超过某个阈值如0.9的文章标记为“疑似重复”。输出一个包含去重后文章列表及重复组报告的结果。价值自动识别重复或高度相似的内容提升信息处理效率。场景二自动化内容标签生成痛点文章、商品上架时需要手动打标签不一致且效率低。搭建思路准备一个标签库并为每个标签准备一些示例描述同样用Nomic模型转换成向量存入一个简易的“标签向量库”。创建工作流输入待打标签的文本内容。用Nomic模型计算输入文本的向量。将其与“标签向量库”中的所有标签向量进行相似度计算。选出相似度最高的前3-5个标签作为推荐标签输出。价值实现内容标签的自动、标准化生成特别适用于电商商品分类、文章主题标记等。场景三个性化推荐引擎简易版痛点想为网站用户提供“猜你喜欢”的内容但开发完整推荐系统成本高。搭建思路将站内所有内容文章、产品通过Nomic模型向量化并存储其向量和ID。当用户浏览或喜欢某个内容A时获取A的向量。在工作流中计算内容A的向量与内容库中其他所有内容向量的相似度。筛选出相似度最高且未被用户浏览过的若干内容推荐给用户。价值以较低成本为产品增加个性化推荐能力提升用户粘性。6. 总结走完整个流程你会发现将Nomic-Embed-Text-V2-MoE这类专业模型集成到Dify这样的低代码平台就像给业务人员配上了一把强大的“AI瑞士军刀”。技术团队负责打磨好刀锋部署优化模型业务团队则可以自由组合刀上的各种工具通过工作流编排快速解决实际问题。这种模式极大地降低了AI应用的开发现代化门槛。过去需要数周开发、联调的功能现在可能几个小时就能搭出原型。更重要的是它把AI能力的使用权从算法工程师手中部分移交给了更贴近业务场景的产品和运营同学能够激发更多接地气的创新应用。当然在实际使用中可能会遇到一些小挑战比如模型服务的网络延迟、批量处理时的性能优化等。但总体来看这条技术路径的性价比非常高。如果你手头有不错的垂直领域模型正愁于如何让它产生业务价值不妨试试用Dify把它“包装”起来或许能打开一片新天地。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
Nomic-Embed-Text-V2-MoE集成至Dify：打造低代码AI应用工作流
Nomic-Embed-Text-V2-MoE集成至Dify打造低代码AI应用工作流最近在折腾AI应用开发的朋友可能都有过类似的体验好不容易部署好一个强大的模型比如文本嵌入模型想把它用到实际业务里却发现还得写一堆后端接口、处理并发、设计数据库开发门槛一下子就上去了。如果你也遇到过这种“模型有了应用难做”的情况那今天聊的这个方案可能会让你眼前一亮。我们将把部署好的Nomic-Embed-Text-V2-MoE模型无缝集成到Dify这个低代码AI应用平台上。简单来说就是让这个专业的文本理解模型变成一个“即插即用”的能力模块。业务人员或者产品经理通过拖拖拽拽就能快速搭建出智能文档检索、内容去重、自动打标签这些实用功能完全不用操心背后的代码和架构。这听起来是不是省心多了接下来我就带你一步步走通这个流程看看怎么把技术能力变成业务价值。1. 为什么选择Dify与Nomic-Embed的组合在开始动手之前我们先花点时间聊聊为什么是这两个技术的组合以及它们能解决什么问题。Nomic-Embed-Text-V2-MoE这个名字有点长我们简称它为Nomic嵌入模型。它的核心能力是把一段文字比如一个句子、一段话、一整篇文章转换成一串有意义的数字也就是“向量”。这个过程叫做“文本嵌入”。这串数字非常神奇它能捕捉文字的语义信息。意思相近的文字转换出来的数字串在数学空间里的“距离”也会很近。举个例子“我喜欢吃苹果”和“苹果是一种水果”这两句话里的“苹果”指的是同一个东西那么它们生成的向量就会很相似。而“我喜欢用苹果手机”这句话里的“苹果”生成的向量就会和前两者有较大差异。模型就是通过这种方式“理解”文字的。那么理解文字之后能干嘛呢用处可大了智能搜索不再是机械地匹配关键词而是理解你的意图找到语义最相关的内容。内容去重自动发现海量文章、评论中意思重复的内容。自动分类/打标签根据文章内容自动将其归到合适的类别或打上标签。推荐系统找到用户可能喜欢的、内容相似的文章或产品。但是光有模型能力还不够。传统上要做一个具备上述功能的AI应用你需要一个完整的开发团队前端、后端、算法工程师齐上阵开发周期长成本高。这时候Dify的价值就体现出来了。你可以把它理解为一个“AI应用乐高平台”。它把大模型调用、提示词工程、知识库管理、工作流编排这些复杂的技术环节都做成了可视化的模块。你不需要写代码只需要在网页上拖拽这些模块像搭积木一样把它们连接起来就能构建出一个功能完整的AI应用。所以我们的思路就很清晰了将强大的Nomic嵌入模型作为向量化引擎接入Dify平台。利用Dify的低代码能力快速构建上层AI应用。这样技术团队专注于模型部署和优化业务团队则可以基于此快速实验和落地各种智能场景真正实现了降本增效。2. 前期准备模型部署与Dify环境在开始连接之前我们需要确保两件事模型已经就绪平台已经就位。2.1 部署Nomic-Embed-Text-V2-MoE模型首先你需要有一个已经部署好的Nomic-Embed-Text-V2-MoE模型服务。这里假设你已经通过一些常见的部署方式比如使用模型镜像、在服务器上直接运行等启动了模型并且它提供了一个标准的API接口。关键点在于这个API接口需要符合OpenAI的嵌入接口格式或者至少是兼容的。因为Dify在对接外部模型时对OpenAI格式的支持是最友好的。一个标准的请求看起来像这样curl -X POST http://你的模型服务地址/v1/embeddings \ -H Content-Type: application/json \ -d { model: nomic-embed-text-v2, input: 需要被转换成向量的文本内容 }而模型的返回应该是这样的JSON格式{ object: list, data: [ { object: embedding, embedding: [0.012, -0.005, 0.034, ...], // 一长串数字就是向量 index: 0 } ], model: nomic-embed-text-v2, usage: { prompt_tokens: 10, total_tokens: 10 } }请务必先测试你的模型服务确保它能接收这样的请求并返回正确格式的结果。这是后续一切工作的基础。2.2 配置Dify平台接下来是Dify这边。如果你还没有Dify可以去它的官网按照指引进行部署它支持Docker等多种方式安装过程比较 straightforward。安装好后打开Dify的控制台。我们主要关注两个地方模型供应商和工作流。模型供应商这里是配置各种大模型接入的地方。Dify原生支持OpenAI、Anthropic等我们需要在这里添加一个“自定义”的供应商来对接我们自己的Nomic模型。工作流这是我们之后进行可视化编排的主战场。环境准备好之后最关键的连接步骤就要开始了。3. 核心步骤将模型作为自定义能力接入DifyDify本身没有预置Nomic模型所以我们需要通过“自定义模型”的方式把它接进去。这个过程就像给Dify安装一个新的插件。3.1 在Dify中配置自定义模型供应商登录Dify后台找到“设置” - “模型供应商”页面。点击“添加模型供应商”选择“自定义”类型。在配置表单中需要填写以下关键信息供应商名称起个容易识别的名字比如“Nomic-Embedding”。API Base URL填写你的Nomic模型服务的完整地址例如http://192.168.1.100:8080/v1。注意这里需要包含到/v1这一层因为Dify会在这个地址后面拼接具体的接口路径如/embeddings。API Key如果你的模型服务需要鉴权就在这里填写密钥。如果部署在内部网络且未设置鉴权可以留空或填写任意字符如sk-dummy。填写完成后点击“保存”。此时Dify会尝试连接你提供的地址。如果配置正确通常会提示添加成功。3.2 创建自定义的文本嵌入模型添加了供应商我们还需要告诉Dify这个供应商下面具体提供哪个模型。在“模型供应商”页面找到你刚创建的“Nomic-Embedding”供应商点击进入详情或管理。点击“添加模型”。在模型配置中模型类型选择“文本嵌入”。这是最重要的一步决定了这个模型在Dify里扮演的角色。模型名称填写模型标识例如nomic-embed-text-v2。这个名称需要和你的模型服务在响应中返回的model字段一致参见前面API返回的例子。模型模式根据你的模型能力选择通常保持默认或选择“嵌入”。上下文长度填写模型支持的最大文本长度Nomic-Embed-Text-V2-MoE通常是8192。保存模型配置。至此你的Nomic嵌入模型已经作为一个“能力”正式入驻Dify平台了。你可以在后续创建知识库或工作流时像选择OpenAI的模型一样选择它。4. 实战应用构建智能文档检索工作流模型接入了我们来真刀真枪地用它解决一个实际问题搭建一个智能文档问答系统。用户输入一个问题系统从一堆内部文档里找到最相关的内容并生成一个简洁的答案。4.1 创建知识库并接入嵌入模型在Dify中知识库是存储和检索文档的核心组件。进入“知识库”页面点击“创建知识库”。填写知识库名称和描述。在“嵌入模型”选择区域你会看到一个下拉框。点开它应该就能找到我们刚刚配置好的nomic-embed-text-v2模型。选择它。知识库创建好后上传你的文档支持TXT、PDF、Word、PPT等多种格式。Dify会自动调用你选择的Nomic嵌入模型将文档切片、转换成向量并存储起来。这一步的意义在于我们用Nomic模型替代了Dify默认的嵌入模型如OpenAI的text-embedding-ada-002。对于中文场景或特定领域文档Nomic模型可能具有更好的语义理解能力从而提升检索准确率。4.2 使用工作流编排问答应用知识库准备好了我们来搭建一个自动问答的流水线。进入“工作流”页面点击“创建空白工作流”。我们会用到以下几个关键节点从左侧的节点库拖拽到画布上开始节点作为工作流的触发入口。知识库检索节点连接我们创建好的知识库。将开始节点与它相连并把用户的提问内容传递给它。这个节点内部会使用我们配置的Nomic模型将问题转换成向量并在知识库的向量数据库中进行相似度搜索返回最相关的文档片段。大语言模型节点如GPT-4、ChatGLM等用于生成最终答案。将知识库检索节点的输出即相关文档片段和用户的原始问题一起作为提示词输入给大模型让它“基于以下上下文回答问题”。结束节点输出大模型生成的答案。用连接线将这些节点按逻辑顺序连接起来开始 - 知识库检索 - 大语言模型 - 结束。配置每个节点在知识库检索节点中选择你创建的那个使用Nomic嵌入模型的知识库。在大语言模型节点中选择你喜欢的文本生成模型如GPT-4并编写好提示词模板例如“请根据以下上下文信息回答用户的问题。如果上下文信息不足以回答问题请直接说‘根据现有信息无法回答’。上下文{context} 问题{question}”。现在一个可视化的智能问答流水线就搭建完成了。你可以点击右上角的“运行”进行测试。当用户提问时工作流会先利用Nomic模型精准检索相关知识再交由大模型合成答案整个过程无需编写一行代码。5. 扩展场景解锁更多低代码AI应用基于“Nomic嵌入模型 Dify工作流”这个组合我们能玩的远不止智能问答。下面再分享几个可以快速实现的场景思路你可以直接在Dify里尝试搭建。场景一内容智能去重与聚类痛点运营人员每天收集大量行业资讯或用户反馈人工排查重复内容耗时耗力。搭建思路创建一个“文本处理”工作流。使用一个循环节点批量处理输入的文章列表。在循环体内对每一篇文章使用自定义代码节点或通过HTTP请求节点调用你的Nomic模型API计算其向量。设计逻辑将向量相似度超过某个阈值如0.9的文章标记为“疑似重复”。输出一个包含去重后文章列表及重复组报告的结果。价值自动识别重复或高度相似的内容提升信息处理效率。场景二自动化内容标签生成痛点文章、商品上架时需要手动打标签不一致且效率低。搭建思路准备一个标签库并为每个标签准备一些示例描述同样用Nomic模型转换成向量存入一个简易的“标签向量库”。创建工作流输入待打标签的文本内容。用Nomic模型计算输入文本的向量。将其与“标签向量库”中的所有标签向量进行相似度计算。选出相似度最高的前3-5个标签作为推荐标签输出。价值实现内容标签的自动、标准化生成特别适用于电商商品分类、文章主题标记等。场景三个性化推荐引擎简易版痛点想为网站用户提供“猜你喜欢”的内容但开发完整推荐系统成本高。搭建思路将站内所有内容文章、产品通过Nomic模型向量化并存储其向量和ID。当用户浏览或喜欢某个内容A时获取A的向量。在工作流中计算内容A的向量与内容库中其他所有内容向量的相似度。筛选出相似度最高且未被用户浏览过的若干内容推荐给用户。价值以较低成本为产品增加个性化推荐能力提升用户粘性。6. 总结走完整个流程你会发现将Nomic-Embed-Text-V2-MoE这类专业模型集成到Dify这样的低代码平台就像给业务人员配上了一把强大的“AI瑞士军刀”。技术团队负责打磨好刀锋部署优化模型业务团队则可以自由组合刀上的各种工具通过工作流编排快速解决实际问题。这种模式极大地降低了AI应用的开发现代化门槛。过去需要数周开发、联调的功能现在可能几个小时就能搭出原型。更重要的是它把AI能力的使用权从算法工程师手中部分移交给了更贴近业务场景的产品和运营同学能够激发更多接地气的创新应用。当然在实际使用中可能会遇到一些小挑战比如模型服务的网络延迟、批量处理时的性能优化等。但总体来看这条技术路径的性价比非常高。如果你手头有不错的垂直领域模型正愁于如何让它产生业务价值不妨试试用Dify把它“包装”起来或许能打开一片新天地。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
