Ubuntu24.04 一站式部署 LightRAG：Miniconda 虚拟环境 + VLLM 全本地推理（LLM / 嵌入模型）保姆级教程｜含全套避坑指南

张开发
• 2026/4/14 8:59:21 • 15 分钟阅读

最新文章

推荐文章

相关文章

分享文章

Ubuntu24.04 一站式部署 LightRAG：Miniconda 虚拟环境 + VLLM 全本地推理（LLM / 嵌入模型）保姆级教程｜含全套避坑指南
前言LightRAG 作为轻量级、高性能的 RAG 框架，在本地私有化部署场景中极具优势！本文基于Ubuntu24.04，通过Miniconda 虚拟环境隔离依赖，全程使用VLLM 作为统一推理引擎部署 LLM 大模型 + 嵌入（向量）模型，手把手完成 LightRAG 本地部署 + WebUI 可视化界面搭建。本文会把部署中必踩的坑（前端构建、环境切换、模型维度、Bun 报错等）全部标注，小白也能一次成功！一、部署前提（本文不重复教学）已安装Miniconda（Python 虚拟环境管理工具）已安装VLLM（GPU/CPU 版本均可，作为统一推理引擎）服务器：Ubuntu24.04（桌面 / 服务器版通用）核心目标：LightRAG 本地部署 + VLLM 全模型推理 + WebUI 可视化二、创建并激活 LightRAG 专用虚拟环境使用 Miniconda 创建隔离环境，避免系统依赖冲突，环境名固定为 LightRAG：conda create -n LightRAG python=3.10 -y

更多文章