LightRAG是由香港大学数据智能实验室开发的开源项目发表在EMNLP 2025GitHub获35k Star。它通过构建知识图谱结合向量检索的双层检索机制解决了传统RAG仅靠向量检索导致答非所问或漏掉关键信息的痛点。LightRAG在索引阶段提取实体和关系在检索阶段提供六种模式灵活选择尤其在法律领域表现突出。它支持Docker部署可插拔存储架构并可与LangChain、LlamaIndex等生态集成是RAG技术从“能跑就行”走向“精准可靠”的重要代表。你是否遇到过这样的场景花大力气搭了一套 RAG 系统灌入了几十份文档结果问它一个问题它要么答非所问要么漏掉关键信息还不如直接 CtrlF 来得快这可能是当前大多数 RAG 系统的通病——纯靠向量检索猜语义相似度却完全不理解文档中实体之间的关联。今天介绍的开源项目LightRAG由香港大学数据智能实验室HKUDS开发发表在 EMNLP 2025GitHub 已斩获35k Star它用「知识图谱 双层检索」的思路精准解决了这个问题。 一、LightRAG 是什么LightRAGLight Retrieval-Augmented Generation是一个轻量级、高效的检索增强生成框架。它最大的创新在于不只是在文档上做向量检索而是先从文档中提取实体和关系构建知识图谱再结合向量检索进行双层检索。简单来说传统 RAG 把文档切碎 → 算向量 → 找最相似的碎片LightRAG 把文档切碎 → 提取实体关系 → 建知识图谱 → 图检索 向量检索 双路并行一句话总结传统 RAG 只会找相似LightRAG 还会找关联。️ 二、核心架构解析2.1 索引阶段不只是切分更要理解LightRAG 的索引流程与传统 RAG 有本质区别文档分块将原始文档切分为合理大小的文本块实体与关系提取通过 LLM 从文本块中抽取关键实体和它们之间的关系知识图谱构建将提取的实体和关系组装成结构化的知识图谱向量嵌入存储同时对文本块进行向量嵌入其中最关键的是第 2、3 步——这相当于让 AI真的读懂了文档而不是只做了语义切分。2.2 检索阶段六种检索模式灵活应对LightRAG 提供了6 种检索模式根据不同查询需求灵活选择模式检索方式适用场景naive纯向量检索简单语义匹配与传统 RAG 等价local图谱-局部检索查询特定实体的相关上下文global图谱-全局检索查询跨文档的高层抽象问题hybrid局部全局图谱检索需要兼顾细节与全局的复杂查询mix图谱 向量双路检索推荐模式效果最佳bypass无检索直接 LLM对比基线其中mix模式是官方推荐的黄金组合——它同时走知识图谱和向量两条检索路径再通过 Reranker 重排序效果最佳。2.3 可插拔存储架构LightRAG 的存储层是完全可插拔的图存储Neo4j关系型PostgreSQL内置 pgvector Apache AGE文档型MongoDB搜索/向量OpenSearch缓存Redis这意味着你可以根据自身基础设施灵活选择存储方案而不需要修改业务代码。⚔️ 三、与传统 RAG 的对比到底强在哪3.1 核心差异维度传统 RAGLightRAG检索策略纯向量语义相似度知识图谱 向量双层检索实体理解无自动提取实体与关系跨文档推理弱仅靠文本碎片重叠强图谱天然支持跨文档关联全局性问题表现差缺少高层抽象优秀global 模式专门处理增量更新需要重建索引支持增量更新无需全量重建部署复杂度低中等多了图谱构建环节3.2 实测数据在论文的基准测试中LightRAG 与多个 RAG 方案进行了对比胜率 %对比方案农业计算机法律综合vs NaiveRAG67.6%61.6%83.6%61.2%vs RQ-RAG68.4%61.2%85.6%60.8%vs HyDE75.2%58.4%73.6%57.6%vs GraphRAG54.8%52.0%52.8%49.6%可以看到LightRAG 在所有领域都稳定领先尤其在法律这类需要精确实体关联的场景中优势最为明显vs NaiveRAG 胜率 83.6%。即使对标微软的 GraphRAGLightRAG 依然在所有领域保持胜出且架构更简洁、速度更快。 四、实战Docker 部署 LightRAG4.1 前置条件安装好 Docker Desktop准备好 LLM 服务支持 OpenAI / Ollama / lollms 等 20 后端4.2 三步启动bash复制# 第一步克隆项目git clone https://github.com/HKUDS/LightRAG.gitcd LightRAG# 第二步配置环境变量cp .env.example .env# 编辑 .env 文件配置你的 LLM 和 Embedding 服务# 必填项# LLM_BINDINGopenai # 或 ollama / lollms# LLM_BINDING_HOSThttps://api.openai.com/v1# LLM_MODELgpt-4o# EMBEDDING_BINDINGopenai# EMBEDDING_MODELtext-embedding-3-large# 第三步一键启动docker compose up -d启动后访问http://localhost:9621即可打开 Web UI 界面。4.3 GPU 加速可选如果你有 NVIDIA GPU可以在docker-compose.yml中加入 vLLM 服务来加速 Embedding 和 Rerankeryaml复制services:vllm-embed:image:vllm/vllm-openai:latestruntime:nvidiacommand: --model BAAI/bge-m3 --port 8001 --dtype float16ports:-8001:80014.4 Python 代码快速上手如果你更倾向于用代码调用LightRAG 也支持直接通过 Python API 使用python复制 五、生态集成LightRAG 作为一个独立的 RAG 引擎可以灵活集成到现有技术栈中与 LangChain 集成LightRAG 提供了 REST APIFastAPI可以很方便地作为 LangChain Chain 中的一个检索工具来使用。LangChain 负责 Agent 编排和对话管理LightRAG 负责高质量的检索增强。与 LlamaIndex 集成LlamaIndex 擅长数据摄取和索引管理可以将 LightRAG 的图谱检索能力作为自定义 Retriever 接入 LlamaIndex 的查询引擎实现更强大的混合检索。与 Open WebUI 集成社区已有实践将 LightRAG 作为 Ollama 兼容的后端服务直接嵌入 Open WebUI 使用实现开箱即用的智能问答。此外LightRAG 还内置了以下企业级能力Langfuse 追踪可视化查看每次检索的详细过程RAGAS 评估自动评估 RAG 系统质量引用功能回答附带原文出处可溯源验证多工作空间支持多租户数据隔离 六、项目背后港大数据智能实验室LightRAG 由**香港大学数据科学学院的数据智能实验室Data Intelligence Lab HKU**主导开发。该实验室专注于数据科学与人工智能前沿研究GitHub 组织下还有多个明星项目RAG-Anything多模态 RAG 框架支持文本、图片、表格、公式VideoRAG面向超长视频的 RAG 系统MiniRAG面向小模型的轻量 RAG论文第一作者为 Zirui Guo通讯作者为 Chao Huang 教授成果已发表于自然语言处理顶会EMNLP 2025。 七、适合谁看这篇文章适合以下读者正在搭建 RAG 系统的开发者如果你发现纯向量检索效果不够好LightRAG 是一个值得尝试的升级方案数据工程师 / 算法工程师需要理解知识图谱如何增强检索以及如何落地部署技术决策者评估 RAG 技术选型了解 LightRAG 与 GraphRAG、NaiveRAG 的差异AI 应用研究者对检索增强生成技术演进感兴趣想了解最新学术成果的工程化实践01什么是AI大模型应用开发工程师如果说AI大模型是蕴藏着巨大能量的“后台超级能力”那么AI大模型应用开发工程师就是将这种能量转化为实用工具的执行者。AI大模型应用开发工程师是基于AI大模型设计开发落地业务的应用工程师。这个职业的核心价值在于打破技术与用户之间的壁垒把普通人难以理解的算法逻辑、模型参数转化为人人都能轻松操作的产品形态。无论是日常写作时用到的AI文案生成器、修图软件里的智能美化功能还是办公场景中的自动记账工具、会议记录用的语音转文字APP这些看似简单的应用背后都是应用开发工程师在默默搭建技术与需求之间的桥梁。他们不追求创造全新的大模型而是专注于让已有的大模型“听懂”业务需求“学会”解决具体问题最终形成可落地、可使用的产品。CSDN粉丝独家福利给大家整理了一份AI大模型全套学习资料这份完整版的 AI 大模型学习资料已经上传CSDN朋友们如果需要可以扫描下方二维码点击下方CSDN官方认证链接免费领取【保证100%免费】02AI大模型应用开发工程师的核心职责需求分析与拆解是工作的起点也是确保开发不偏离方向的关键。应用开发工程师需要直接对接业务方深入理解其核心诉求——不仅要明确“要做什么”更要厘清“为什么要做”以及“做到什么程度算合格”。在此基础上他们会将模糊的业务需求拆解为具体的技术任务明确每个环节的执行标准并评估技术实现的可行性同时定义清晰的核心指标为后续开发、测试提供依据。这一步就像建筑前的图纸设计若出现偏差后续所有工作都可能白费。技术选型与适配是衔接需求与开发的核心环节。工程师需要根据业务场景的特点选择合适的基础大模型、开发框架和工具——不同的业务对模型的响应速度、精度、成本要求不同选型的合理性直接影响最终产品的表现。同时他们还要对行业相关数据进行预处理通过提示词工程优化模型输出或在必要时进行轻量化微调让基础模型更好地适配具体业务。此外设计合理的上下文管理规则确保模型理解连贯需求建立敏感信息过滤机制保障数据安全也是这一环节的重要内容。应用开发与对接则是将方案转化为产品的实操阶段。工程师会利用选定的开发框架构建应用的核心功能同时联动各类外部系统——比如将AI模型与企业现有的客户管理系统、数据存储系统打通确保数据流转顺畅。在这一过程中他们还需要配合设计团队打磨前端交互界面让技术功能以简洁易懂的方式呈现给用户实现从技术方案到产品形态的转化。测试与优化是保障产品质量的关键步骤。工程师会开展全面的功能测试找出并修复开发过程中出现的漏洞同时针对模型的响应速度、稳定性等性能指标进行优化。安全合规性也是测试的重点需要确保应用符合数据保护、隐私安全等相关规定。此外他们还会收集用户反馈通过调整模型参数、优化提示词等方式持续提升产品体验让应用更贴合用户实际使用需求。部署运维与迭代则贯穿产品的整个生命周期。工程师会通过云服务器或私有服务器将应用部署上线并实时监控运行状态及时处理突发故障确保应用稳定运行。随着业务需求的变化他们还需要对应用功能进行迭代更新同时编写完善的开发文档和使用手册为后续的维护和交接提供支持。03薪资情况与职业价值市场对这一职业的高度认可直接体现在薪资待遇上。据猎聘最新在招岗位数据显示AI大模型应用开发工程师的月薪最高可达60k。在AI技术加速落地的当下这种“技术业务”的复合型能力尤为稀缺让该职业成为当下极具吸引力的就业选择。AI大模型应用开发工程师是AI技术落地的关键桥梁。他们用专业能力将抽象的技术转化为具体的产品让大模型的价值真正渗透到各行各业。随着AI场景化应用的不断深化这一职业的重要性将更加凸显也必将吸引更多人才投身其中推动AI技术更好地服务于社会发展。CSDN粉丝独家福利给大家整理了一份AI大模型全套学习资料这份完整版的 AI 大模型学习资料已经上传CSDN朋友们如果需要可以扫描下方二维码点击下方CSDN官方认证链接免费领取【保证100%免费】
LightRAG横空出世！35k+ Star开源项目，用知识图谱+双层检索秒杀传统RAG，精准度飙升！
LightRAG是由香港大学数据智能实验室开发的开源项目发表在EMNLP 2025GitHub获35k Star。它通过构建知识图谱结合向量检索的双层检索机制解决了传统RAG仅靠向量检索导致答非所问或漏掉关键信息的痛点。LightRAG在索引阶段提取实体和关系在检索阶段提供六种模式灵活选择尤其在法律领域表现突出。它支持Docker部署可插拔存储架构并可与LangChain、LlamaIndex等生态集成是RAG技术从“能跑就行”走向“精准可靠”的重要代表。你是否遇到过这样的场景花大力气搭了一套 RAG 系统灌入了几十份文档结果问它一个问题它要么答非所问要么漏掉关键信息还不如直接 CtrlF 来得快这可能是当前大多数 RAG 系统的通病——纯靠向量检索猜语义相似度却完全不理解文档中实体之间的关联。今天介绍的开源项目LightRAG由香港大学数据智能实验室HKUDS开发发表在 EMNLP 2025GitHub 已斩获35k Star它用「知识图谱 双层检索」的思路精准解决了这个问题。 一、LightRAG 是什么LightRAGLight Retrieval-Augmented Generation是一个轻量级、高效的检索增强生成框架。它最大的创新在于不只是在文档上做向量检索而是先从文档中提取实体和关系构建知识图谱再结合向量检索进行双层检索。简单来说传统 RAG 把文档切碎 → 算向量 → 找最相似的碎片LightRAG 把文档切碎 → 提取实体关系 → 建知识图谱 → 图检索 向量检索 双路并行一句话总结传统 RAG 只会找相似LightRAG 还会找关联。️ 二、核心架构解析2.1 索引阶段不只是切分更要理解LightRAG 的索引流程与传统 RAG 有本质区别文档分块将原始文档切分为合理大小的文本块实体与关系提取通过 LLM 从文本块中抽取关键实体和它们之间的关系知识图谱构建将提取的实体和关系组装成结构化的知识图谱向量嵌入存储同时对文本块进行向量嵌入其中最关键的是第 2、3 步——这相当于让 AI真的读懂了文档而不是只做了语义切分。2.2 检索阶段六种检索模式灵活应对LightRAG 提供了6 种检索模式根据不同查询需求灵活选择模式检索方式适用场景naive纯向量检索简单语义匹配与传统 RAG 等价local图谱-局部检索查询特定实体的相关上下文global图谱-全局检索查询跨文档的高层抽象问题hybrid局部全局图谱检索需要兼顾细节与全局的复杂查询mix图谱 向量双路检索推荐模式效果最佳bypass无检索直接 LLM对比基线其中mix模式是官方推荐的黄金组合——它同时走知识图谱和向量两条检索路径再通过 Reranker 重排序效果最佳。2.3 可插拔存储架构LightRAG 的存储层是完全可插拔的图存储Neo4j关系型PostgreSQL内置 pgvector Apache AGE文档型MongoDB搜索/向量OpenSearch缓存Redis这意味着你可以根据自身基础设施灵活选择存储方案而不需要修改业务代码。⚔️ 三、与传统 RAG 的对比到底强在哪3.1 核心差异维度传统 RAGLightRAG检索策略纯向量语义相似度知识图谱 向量双层检索实体理解无自动提取实体与关系跨文档推理弱仅靠文本碎片重叠强图谱天然支持跨文档关联全局性问题表现差缺少高层抽象优秀global 模式专门处理增量更新需要重建索引支持增量更新无需全量重建部署复杂度低中等多了图谱构建环节3.2 实测数据在论文的基准测试中LightRAG 与多个 RAG 方案进行了对比胜率 %对比方案农业计算机法律综合vs NaiveRAG67.6%61.6%83.6%61.2%vs RQ-RAG68.4%61.2%85.6%60.8%vs HyDE75.2%58.4%73.6%57.6%vs GraphRAG54.8%52.0%52.8%49.6%可以看到LightRAG 在所有领域都稳定领先尤其在法律这类需要精确实体关联的场景中优势最为明显vs NaiveRAG 胜率 83.6%。即使对标微软的 GraphRAGLightRAG 依然在所有领域保持胜出且架构更简洁、速度更快。 四、实战Docker 部署 LightRAG4.1 前置条件安装好 Docker Desktop准备好 LLM 服务支持 OpenAI / Ollama / lollms 等 20 后端4.2 三步启动bash复制# 第一步克隆项目git clone https://github.com/HKUDS/LightRAG.gitcd LightRAG# 第二步配置环境变量cp .env.example .env# 编辑 .env 文件配置你的 LLM 和 Embedding 服务# 必填项# LLM_BINDINGopenai # 或 ollama / lollms# LLM_BINDING_HOSThttps://api.openai.com/v1# LLM_MODELgpt-4o# EMBEDDING_BINDINGopenai# EMBEDDING_MODELtext-embedding-3-large# 第三步一键启动docker compose up -d启动后访问http://localhost:9621即可打开 Web UI 界面。4.3 GPU 加速可选如果你有 NVIDIA GPU可以在docker-compose.yml中加入 vLLM 服务来加速 Embedding 和 Rerankeryaml复制services:vllm-embed:image:vllm/vllm-openai:latestruntime:nvidiacommand: --model BAAI/bge-m3 --port 8001 --dtype float16ports:-8001:80014.4 Python 代码快速上手如果你更倾向于用代码调用LightRAG 也支持直接通过 Python API 使用python复制 五、生态集成LightRAG 作为一个独立的 RAG 引擎可以灵活集成到现有技术栈中与 LangChain 集成LightRAG 提供了 REST APIFastAPI可以很方便地作为 LangChain Chain 中的一个检索工具来使用。LangChain 负责 Agent 编排和对话管理LightRAG 负责高质量的检索增强。与 LlamaIndex 集成LlamaIndex 擅长数据摄取和索引管理可以将 LightRAG 的图谱检索能力作为自定义 Retriever 接入 LlamaIndex 的查询引擎实现更强大的混合检索。与 Open WebUI 集成社区已有实践将 LightRAG 作为 Ollama 兼容的后端服务直接嵌入 Open WebUI 使用实现开箱即用的智能问答。此外LightRAG 还内置了以下企业级能力Langfuse 追踪可视化查看每次检索的详细过程RAGAS 评估自动评估 RAG 系统质量引用功能回答附带原文出处可溯源验证多工作空间支持多租户数据隔离 六、项目背后港大数据智能实验室LightRAG 由**香港大学数据科学学院的数据智能实验室Data Intelligence Lab HKU**主导开发。该实验室专注于数据科学与人工智能前沿研究GitHub 组织下还有多个明星项目RAG-Anything多模态 RAG 框架支持文本、图片、表格、公式VideoRAG面向超长视频的 RAG 系统MiniRAG面向小模型的轻量 RAG论文第一作者为 Zirui Guo通讯作者为 Chao Huang 教授成果已发表于自然语言处理顶会EMNLP 2025。 七、适合谁看这篇文章适合以下读者正在搭建 RAG 系统的开发者如果你发现纯向量检索效果不够好LightRAG 是一个值得尝试的升级方案数据工程师 / 算法工程师需要理解知识图谱如何增强检索以及如何落地部署技术决策者评估 RAG 技术选型了解 LightRAG 与 GraphRAG、NaiveRAG 的差异AI 应用研究者对检索增强生成技术演进感兴趣想了解最新学术成果的工程化实践01什么是AI大模型应用开发工程师如果说AI大模型是蕴藏着巨大能量的“后台超级能力”那么AI大模型应用开发工程师就是将这种能量转化为实用工具的执行者。AI大模型应用开发工程师是基于AI大模型设计开发落地业务的应用工程师。这个职业的核心价值在于打破技术与用户之间的壁垒把普通人难以理解的算法逻辑、模型参数转化为人人都能轻松操作的产品形态。无论是日常写作时用到的AI文案生成器、修图软件里的智能美化功能还是办公场景中的自动记账工具、会议记录用的语音转文字APP这些看似简单的应用背后都是应用开发工程师在默默搭建技术与需求之间的桥梁。他们不追求创造全新的大模型而是专注于让已有的大模型“听懂”业务需求“学会”解决具体问题最终形成可落地、可使用的产品。CSDN粉丝独家福利给大家整理了一份AI大模型全套学习资料这份完整版的 AI 大模型学习资料已经上传CSDN朋友们如果需要可以扫描下方二维码点击下方CSDN官方认证链接免费领取【保证100%免费】02AI大模型应用开发工程师的核心职责需求分析与拆解是工作的起点也是确保开发不偏离方向的关键。应用开发工程师需要直接对接业务方深入理解其核心诉求——不仅要明确“要做什么”更要厘清“为什么要做”以及“做到什么程度算合格”。在此基础上他们会将模糊的业务需求拆解为具体的技术任务明确每个环节的执行标准并评估技术实现的可行性同时定义清晰的核心指标为后续开发、测试提供依据。这一步就像建筑前的图纸设计若出现偏差后续所有工作都可能白费。技术选型与适配是衔接需求与开发的核心环节。工程师需要根据业务场景的特点选择合适的基础大模型、开发框架和工具——不同的业务对模型的响应速度、精度、成本要求不同选型的合理性直接影响最终产品的表现。同时他们还要对行业相关数据进行预处理通过提示词工程优化模型输出或在必要时进行轻量化微调让基础模型更好地适配具体业务。此外设计合理的上下文管理规则确保模型理解连贯需求建立敏感信息过滤机制保障数据安全也是这一环节的重要内容。应用开发与对接则是将方案转化为产品的实操阶段。工程师会利用选定的开发框架构建应用的核心功能同时联动各类外部系统——比如将AI模型与企业现有的客户管理系统、数据存储系统打通确保数据流转顺畅。在这一过程中他们还需要配合设计团队打磨前端交互界面让技术功能以简洁易懂的方式呈现给用户实现从技术方案到产品形态的转化。测试与优化是保障产品质量的关键步骤。工程师会开展全面的功能测试找出并修复开发过程中出现的漏洞同时针对模型的响应速度、稳定性等性能指标进行优化。安全合规性也是测试的重点需要确保应用符合数据保护、隐私安全等相关规定。此外他们还会收集用户反馈通过调整模型参数、优化提示词等方式持续提升产品体验让应用更贴合用户实际使用需求。部署运维与迭代则贯穿产品的整个生命周期。工程师会通过云服务器或私有服务器将应用部署上线并实时监控运行状态及时处理突发故障确保应用稳定运行。随着业务需求的变化他们还需要对应用功能进行迭代更新同时编写完善的开发文档和使用手册为后续的维护和交接提供支持。03薪资情况与职业价值市场对这一职业的高度认可直接体现在薪资待遇上。据猎聘最新在招岗位数据显示AI大模型应用开发工程师的月薪最高可达60k。在AI技术加速落地的当下这种“技术业务”的复合型能力尤为稀缺让该职业成为当下极具吸引力的就业选择。AI大模型应用开发工程师是AI技术落地的关键桥梁。他们用专业能力将抽象的技术转化为具体的产品让大模型的价值真正渗透到各行各业。随着AI场景化应用的不断深化这一职业的重要性将更加凸显也必将吸引更多人才投身其中推动AI技术更好地服务于社会发展。CSDN粉丝独家福利给大家整理了一份AI大模型全套学习资料这份完整版的 AI 大模型学习资料已经上传CSDN朋友们如果需要可以扫描下方二维码点击下方CSDN官方认证链接免费领取【保证100%免费】
