Dify+RAGFlow 混合架构部署
🟧Dify+RAGFlow 混合架构部署
技术分享|2021-7-2|最后更新: 2025-4-28
type
status
date
slug
summary
tags
category
icon
password
😀
RAGFlow 是一款基于深度文档理解构建的开源 RAG(Retrieval-Augmented Generation)引擎。RAGFlow 可以为各种规模的企业及个人提供一套精简的 RAG 工作流程,结合大语言模型(LLM)针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。 Dify 是一个开源的 LLM 应用开发平台。其直观的界面结合了 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等,让您可以快速从原型到生产。 Dify 的主要优势在强大的工作流编排和 Agent 能力构建复杂应用。 RAGFlow 主要的优势在文件精细解析能力强,在处理 PDF、扫描件、表格等复杂文档方面表现出色。两向结合,优势互补。
 
 

1. Dify部署

📝 系统要求
  • CPU >= 2 Core
  • RAM >= 4 GiB
 
📍启动dify
1.进入 Dify 源代码的 Docker 目录
cd dify/docker
  1. 复制环境配置文件 cp .env.example .env
  1. 启动 Docker 容器 docker compose -p dify_docker up -d
📍访问 Dify 你可以先前往管理员初始化页面设置设置管理员账户: # 本地环境 http://localhost/install # 服务器环境 http://your_server_ip/install Dify 主页面 # 本地环境 http://localhost # 服务器环境 http://your_server_ip
💡
更新 Dify
cd dify/docker docker compose down git pull origin main docker compose pull docker compose -p dify_docker up -d

2. RagFlow部署

📝 系统要求
  • CPU >= 4 核
  • RAM >= 16 GB
  • Disk >= 50 GB
  • Docker >= 24.0.0 & Docker Compose >= v2.26.1
如果你并没有在本机安装 Docker(Windows、Mac,或者 Linux), 可以参考文档 Install Docker Engine 自行安装。
🚀 启动服务器
  1. 确保 vm.max_map_count 不小于 262144: 如需确认 vm.max_map_count 的大小: $ sysctl vm.max_map_count 如果 vm.max_map_count 的值小于 262144,可以进行重置: # 这里我们设为 262144: $ sudo sysctl -w vm.max_map_count=262144 你的改动会在下次系统重启时被重置。如果希望做永久改动,还需要在 /etc/sysctl.conf 文件里把 vm.max_map_count 的值再相应更新一遍: vm.max_map_count=262144
  1. 克隆仓库: $ git clone https://github.com/infiniflow/ragflow.git
  1. 修改配置文件: 编辑ragflow/docker/.evn # The type of doc engine to use. # Available options: # - `elasticsearch` (default) # - `infinity` (https://github.com/infiniflow/infinity) DOC_ENGINE=${DOC_ENGINE:-infinity} # The RAGFlow Docker image to download. # Defaults to the v0.17.2-slim edition, which is the RAGFlow Docker image without embedding models. RAGFLOW_IMAGE=infiniflow/ragflow:v0.17.2 编辑ragflow/docker/docker-compose.yml,修改端口
    1. notion image
  1. 进入 docker 文件夹,利用提前编译好的 Docker 镜像启动服务器: $ cd ragflow/docker # Use CPU for embedding and DeepDoc tasks: $ docker compose -f docker-compose.yml up -d
  1. 浏览器访问http://IP:8080验证

3. 知识库对接

  1. 在 Dify 中配置 RAGFlow 的知识库时,需要在 RAGFlow 的基础 Base url 后增加 “api/v1/dify”,这是 Dify 特定的 API 路径,它承担版本控制、模块划分等作用。
notion image
dify 点击知识库-外部知识库API
notion image
  1. 完成 Dify 和 RAGFlow 的 API 连接之后,就可以紧接着创建知识库,需要注意的是,需要点击的是“连接外部知识库”这个按钮。下一步会提示需要输入外部知识库 ID,这个信息需要在大家 RAGFlow 对应的知识库页面,在浏览器的地址后缀上能看到完整的 ID 数字,直接复制过来填下。
notion image
notion image
💡
dify ragflow还有许多强大能力,接下来文章再来探索。
Proxmox VE + Ceph 集群搭建本地部署Deepseek大模型
Loading...