南北阁Nanbeige 4.1-3B与Dify集成教程：快速构建AI智能体应用

南北阁Nanbeige 4.1-3B与Dify集成教程快速构建AI智能体应用想试试用最新的开源大模型来做个自己的AI小助手吗比如让它帮你写写周报、分析一下数据或者当个智能客服今天咱们就来聊聊怎么把部署在星图GPU平台上的南北阁Nanbeige 4.1-3B模型和那个特别火的低代码AI开发框架Dify给“撮合”到一起。你可能听说过Dify它能让不懂太多代码的人也能搭出像模像样的AI应用。而南北阁Nanbeige 4.1-3B是一个挺不错的开源模型能力均衡对中文支持也好。把它们俩结合起来你就能在图形化界面上拖拖拽拽快速做出一个专属的智能体应用无论是内部工具还是对外服务都变得简单多了。这篇教程我就带你走一遍完整的流程。从怎么在Dify里配置好咱们的模型到设计一个简单的工作流再到最后发布成一个能分享给别人的应用。整个过程咱们尽量用大白话讲清楚保证你跟着做就能出效果。1. 前期准备模型与平台在开始“搭积木”之前咱们得先把最重要的两块“积木”准备好一个是已经跑起来的模型服务另一个就是Dify的开发环境。1.1 获取模型API访问点首先你得确保南北阁Nanbeige 4.1-3B模型已经在星图GPU平台上成功部署并运行起来了。这个过程在星图镜像广场通常能找到一键部署的镜像非常方便。部署成功后最关键的是拿到模型的API访问地址Endpoint。这个地址看起来通常像这样http://你的服务器IP:端口/v1。请务必记下这个完整的URL包括端口号和后面的/v1路径待会儿在Dify里配置时会用到。同时你也需要准备好API密钥如果部署时设置了的话。1.2 部署或访问Dify接下来是Dify。你有两个选择云端托管版直接访问Dify的官方网站注册账号即可使用。这是最快的方式适合个人体验和快速原型开发。本地/私有化部署如果你对数据隐私或网络环境有要求可以从GitHub拉取Dify的源码进行自部署。官方提供了详细的Docker部署脚本通常几条命令就能搞定。无论哪种方式确保你能正常登录到Dify的工作台界面。它的界面比较清爽主要功能都在左侧的导航栏里。2. 在Dify中配置南北阁模型好了两边都准备好了现在就让它们“认识”一下。我们需要在Dify里把咱们的南北阁模型添加为一个可用的模型供应商。2.1 添加自定义模型供应商登录Dify后点击左下角的“设置”图标通常是一个齿轮形状然后找到“模型供应商”或“Model Providers”选项。在模型供应商页面你会看到Dify已经预置了像OpenAI、Anthropic等很多选项。我们需要点击“添加模型供应商”或“Add Model Provider”然后选择“自定义模型”或“Custom Model”这一类。这时系统会要求你填写一个表单关键信息有这么几项供应商名称你可以起个容易记的名字比如“星图-Nanbeige”。模型类型选择“文本生成”或“LLM”。API端点这里就填入你刚才记下的那个完整地址http://你的服务器IP:端口/v1。API密钥如果模型部署时不需要密钥这里可以留空如果需要就填入对应的密钥。填写完成后保存这个供应商配置。Dify会去测试一下连接是否通畅如果显示成功那么最基础的一步就完成了。2.2 配置具体的模型添加了供应商还得告诉Dify具体用哪个模型。在同一个“模型供应商”设置里找到你刚添加的“星图-Nanbeige”点击进入详情或配置。这里需要配置模型本身的信息模型名称填写nanbeige-4.1-3b具体名称请根据你部署的模型版本确定。模型ID通常和模型名称保持一致即可比如nanbeige-4.1-3b。上下文长度根据南北阁4.1-3B模型的实际能力填写例如8192。这个数决定了模型一次能处理多长的对话。配置好后保存模型。现在你的Dify就具备了调用南北阁模型的能力了。3. 构建你的第一个AI智能体应用模型配置好了咱们来点好玩的——实际创建一个应用。Dify的核心是“工作流”我们可以用可视化的方式把AI处理逻辑搭出来。3.1 创建应用与选择起点在Dify工作台点击“创建应用”选择“工作流”类型。给应用起个名字比如“智能周报助手”。进入工作流画布后你会看到一个空的起点。从左侧的节点库中拖一个“开始”节点到画布上。这个节点代表用户输入。你可以双击它给它设置一个变量名比如user_input代表用户提出的问题。3.2 设计核心工作流一个最简单的问答流程只需要两个核心节点LLM节点从左侧拖一个“大语言模型”节点到画布并用连接线将它连接到“开始”节点后面。回答节点再拖一个“回答”节点连接到LLM节点后面。现在配置LLM节点点击这个节点在右侧配置面板的“模型”下拉框中你应该能看到我们刚才配置的“星图-Nanbeige / nanbeige-4.1-3b”选择它。在“系统提示词”区域输入你希望模型扮演的角色。比如你是一个高效的办公助手擅长将零散的工作事项总结成结构清晰、语言专业的周报。请根据用户提供的工作点滴生成一份包含【本周工作完成情况】、【遇到的问题与解决方案】、【下周工作计划】三个部分的周报。在“上下文变量”区域将user_input这个变量映射到“用户问题”的输入框里。这样用户说的话就会传给模型。最后配置回答节点这个节点通常不需要额外设置它会自动将LLM节点的输出作为最终结果返回给用户。3.3 试试效果与调试点击画布右上角的“预览”按钮就可以在右侧打开一个聊天测试窗。在输入框里模拟用户输入比如“我这周完成了项目A的需求评审写了设计文档还修复了两个线上bug。”点击发送Dify就会按照工作流执行将你的输入和系统提示词一起发给南北阁模型模型生成周报后结果通过回答节点显示出来。看看生成的周报格式和内容是否符合你的预期。如果效果不理想可以调整系统提示词让它更具体。例如加上“请使用要点列表的形式”或“语气请正式一些”。Dify的优势就在这里改提示词比改代码快多了。4. 进阶让智能体更“智能”基础的问答做好了但一个有用的智能体往往需要更复杂的能力。Dify工作流支持很多高级节点咱们来看两个常用的。4.1 集成知识库如果想让模型回答关于你公司文档、产品手册等特定知识可以为应用添加知识库。在Dify的“知识库”模块创建一个新知识库上传你的PDF、Word或TXT文件。回到工作流画布在“开始”节点和“LLM”节点之间插入一个“知识库检索”节点。配置这个节点选择你创建的知识库。它会自动根据用户输入从文档中找出最相关的片段。将检索到的“内容”也作为上下文变量传递给LLM节点。同时你需要修改系统提示词加入类似“请根据以下提供的参考信息来回答问题{{#context#}}...”的指令。这样模型在回答时就会结合你提供的专业知识回答的准确性会大大提高。4.2 使用条件分支如果你想根据用户的不同意图执行不同操作可以用“条件判断”节点。 例如用户输入“写周报”和“查天气”应该触发不同的流程。在“开始”节点后插入一个“条件判断”节点。你可以设置规则比如如果user_input包含“周报”则流向“周报生成LLM节点”如果包含“天气”则流向另一个集成了天气API的工具节点Dify支持HTTP请求节点。这样一个应用就能处理多种类型的任务变得更像一个真正的智能体。5. 发布与分享你的应用应用调试满意后就可以发布了。在应用概览页面找到“发布”或“部署”选项。Dify会为你生成一个独立的访问链接。你可以设置访问权限公开或需要API密钥然后将这个链接分享给同事或用户。他们点开链接就能看到一个干净的聊天界面直接使用你构建好的AI智能体完全不需要知道背后是南北阁模型还是复杂的工作流。你还可以在“API访问”页面找到详细的接口文档方便你将这个AI能力集成到自己的业务系统或小程序中去。整个流程走下来你会发现用Dify来集成像南北阁这样的开源模型确实大大降低了AI应用开发的门槛。你不用操心API接口的细节也不用写复杂的后端逻辑专注在设计提示词和工作流上就能快速做出有用的东西。这种模式特别适合产品经理、运营同学或者想快速验证AI创意的开发者。南北阁4.1-3B模型在中文理解和生成上表现不错结合Dify的灵活编排能玩出很多花样比如智能客服原型、内容创作工具、数据分析助手等等。当然刚开始可能会在提示词调试上花点时间多试几次看看模型在哪种指令下表现最好。一旦跑通复制和修改工作流来创建新应用就非常快了。你不妨就从那个“周报助手”开始动手试试看吧。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。