概述Agentic ADK是阿里国际AI Business推出、主要使用Java开发、开源GitHub682 Star129 Fork基于Google-ADK和Ali-LangEngine的Agent应用开发框架。特点阿里体系下基于LangChain原理的AI应用框架引入Java特色的工程模块化思路可支持日志记录、业务监控、链式编排实现类流程持久化面向阿里系Java工程开发同学易学易用借鉴LangChain生态特点支持社区生态共建能力具有上下文感知能力将LLM连接到上下文来源提示说明、少提示词示例、响应内容等代理以及Reason依靠LLM进行推理关于如何根据提供的上下文进行回答、采取什么操作等LangEngine框架目前在内部钉钉群里有1200的使用方和开发者内部社区贡献群有40核心贡献者。用于开发、构建、评估和部署功能强大、灵活且可控的复杂 AI Agent。ADK 旨在使Agent开发更简单友好使开发者能够更轻松地构建、部署和编排从简单任务到复杂协作的各类Agent应用。通讯协议LangEngine框架支持接收HTTP的非流式和流式请求也支持集团HSF的非流式和流式内部请求可以提供高效的服务通信能力。运行时协议包括普通API协议和消息协议用于标准数据传输和事件通知。LangEngine支持工作流协议、异步化轮询以及MetaQ消息协议以实现复杂任务的编排和调度。集成AI框架LangEngine框架提供全生命周期的AI应用执行链路的代码实现。内置权限访问和流控插件扩展以确保安全性和资源的有效利用。AI组件网关应用运行时通过统一内部各项服务网关负责将请求路由到后台的HTTP、HSF、算法工作台以及消息服务。元数据缓存采用多级数据缓存策略降低数据库访问频率以高效更新和获取AI应用的元数据信息。未来也会集成到LangEngine开源框架中。应用运维常规的SLS Log打点通过Blink聚合计算回流Hologres生成实时报表采用UniqueId以及RpcId树状机制提供统一日志SDK进行全链路的日志回流。通过这些能力结合系统能够在复杂的应用场景下保持高性能和高可靠性。LangEngine-Core核心模块包括Retrieval、Model I/O、Memory、Chains、Agents、Callbacks以及LangRunnable的动态链编排引擎。Retrieval包括Document loaders从多种不同的源加载文档可以是文本、链接、视频等目前支持txt、pdf、office文件、excel、duckdb、语雀、钉钉文档等格式Transform Text splitters从文档加载之后可针对长文本进行必要分割并对文本进行结构化处理目前支持单词、段落、句子、中文、正则、重叠切分等Text embedding models将分割之后文本转化为一个向量(浮点数)表示可以做一些语义搜索、相似性搜索目前支持OpenAI、Gemini、通义干问、Claude、Llama3等Vector stores将转化后的向量存储到向量数据库中。负责存储嵌入数据并执行向量相似度搜索目前支持Holo、adb、Tair、PolarDB、Pinecone、MemoryMemoryCallbacks提供一个回调系统允许连接到LLM申请的各个阶段用于日志记录、监控、流传输等。可使用整个API中可用的回调参数来订阅这些事件。架构示意图LangRunnable架构可轻松地从基本组件构建复杂的链条提供功能统一接口每个LangRunnable对象都实现Runnable接口该接口定义一组通用的调用方法invoke、batch、stream、invokeAsync等。这使得LangRunnable对象链也可以自动支持这些调用。每个LangRunnable对象链本身就是LangRunnable对象。组合原语提供许多原语可轻松组合链、并行化组件、添加后备、动态配置链内部等。Runnable是一个标准接口可轻松自定义链并以标准方式调用它们提供如下方法invoke在输入上调用chainstream流回响应块batch批量在输入上调用chaininvokeAsync在输入上异步调用chainstreamAsync异步流回响应块batchAsync批量在输入上异步调用chainLangEngine实现AIGC和LLM的高可用异步化设计应用同步单节点异步该设计方案仍然是通过应用同步请求的方式来使用对于部分组件的能力本身如果仅支持异步化请求可以对该节点单独设置可执行异步化操作。这样的优点是用户接入通过同步HTTP方式即可最终得到结果不用感知里面的执行逻辑。而对于网关来说针对于部分节点进行异步化任务提交通过CompletableFuture进行任务的状态轮询当任务的状态为finished或者failed时候再继续下一节点的执行。虽然这种同步方式比较轻量也能达到部分节点异步化的目的但仅能支持异步化比较快速并不产生大量堆积的情况。往往上我们的业务中会执行大量的任务跑批任务可能存在消息队列的任务堆积而这个堆积往往会持续比较久而慢慢去消费掉所以当超过了最大超时时间同步请求就会把超时信息直接异常返回。为了防止任务堆积导致的请求超时于是就有了应用全异步的方案。应用全异步异步化任务提交后将当前的流程实例中断并返回结果完成本轮调用。并将任务ID以及当前的ProcessInstanceId的持久化到Taskinstance表中状态置为暂停。运行时的消息监听程序将接收任务系统的对于组件的任务处理结果任务存在finished和failed两个状态。如果任务是finished状态将进行流程实例的恢复执行signalProcessInstance同时将taskInstance表中的状态置为运行避免任务抢占并将变量上下文从数据库捞起合并任务携带的变量结果恢复流程实例进入到下一个节点。在流程节点到下一个流程节点不在是在同一个主线程之中了这样避免了主线程阻塞并且通过持久化方式进行延迟序列化加载与恢复。自从应用异步化上线以后整体系统性能平稳并且能够支撑比较大的任务堆积流量。应用ServerlessAI应用目前整个调用链路目前都是通过中心化部署的AI应用网关上去执行的由于AIGC与大模型相关服务耗时比较长是个常态存在应用之间资源性能上的相互影响。借助于Serverless技术实现应用容器化隔离。应用分层之后serverless应用面向一线开发者、基座应用面向SRE的角色让应用不再关心基础组件「业务二方包/三方包/中间件/JDK/安全」的升级。应用运维集成框架利用LangEngine日志采集功能通过建立全面而细致的日志监控系统确保能够实时捕获和分析应用运行中的各类事件和异常。这有助于迅速识别和解决潜在问题从而减少停机时间和对用户的影响。通过自研日志SDK和SLS的ilogtail采集多种类型的应用日志并使用Sunfire和BLINK工具进行计算随后通过BLINK SQL将数据存入HOLO数据库以支持快速检索同时提供监控、个性化告警、数据分析等平台功能。总结以阿里LangEngine的AI应用开发框架为核心基础开发者可以快速高效地构建高可用的AI应用网关。通过结合完善的应用运维体系LangEngine为AI应用的整体稳定性提供了坚实的保障使开发者能够专注于业务逻辑和创新而不必担心底层架构和稳定性问题从而更好地应对不断变化的市场需求。阿里LangEngine在未来将重点探索以下几个方向AgentFramework即将开源开发者可以基于AgentFramework框架快速构建AI的工作流应用和智能体应用。流式与智能体异步化支持当前异步化处理已在工作流应用中发挥作用。未来计划将这一异步化方式扩展到流式处理和智能体应用中的CoTChain of Thought规划。这将提升系统的灵活性和响应能力使其能够更高效地处理复杂任务。LangEngine-Multi-Agent框架探索多智能体执行引擎结合multi-agent范式和agentic workflow理念。此项发展将推动系统从传统的Flow架构向智能Flow架构转变。LangEngine-Platform提供对外可视化的AI应用搭建的开源工具并支持一键部署RestAPI统一网关。LangEngine-CommunityLangEngine社区生态模块目前主要会针对六大模块的可扩展功能进行共建。源码结构截图多达183个生态模块由社区共建使用时按需引用pom包。不完全列表模块分类LLM服务集成1.RAG服务LangEngine Retrieval模块包含RAG所需要的丰富元素能基于LangEngine轻松构建RAG服务通过文档加载器加载不同文档的格式类型常用的包括PDF、Text、Excel、CSV、Markdown、Html等文件也包括各类常见编程语言加载器还包括在线网页加载器等提供基于阿里钉钉、语雀、ODPS、TDDL等等阿里集团内部常用的加载器最大限度的支持阿里内部的文档场景。文本分割器实现常用的文本分割器包括递归词句分割的能力。Embeddings和VectorStore集成包括通义千问的嵌入服务或各个阿里云上各种的向量数据库服务。提供常用的Query改写、Rerank服务等支持。通过Retriever、DocumentChain、OnlineSearch构建出RAG的向量检索以及在线检索服务。意图识别服务优秀的大模型的意图识别固然重要如果能够进一步增强意图识别能力也是锦上添花的事情。LangEngine Chain中也提供各种路由链、顺序链、专家链等等可以进一步提升意图识别效果的增强。工具代理调用服务LangEngine Agent模块中内置的各种类型的Agent范式类可构建常见的Agent服务方式通过LangRunnable模块可更加灵活的自定义自己的Agent范式编排可构建出类似于FunctionCall、Planner、ReAct等服务方式通过这些能力可以进行工具的代理调用。GPT服务LangEngine的GPT模块中提供众多GPT服务例如NL2SQL、NL2Query、NL2API、NL2Prompt。通过SQLDataChain实现NL2SQL服务底层也集成TDDL技术进行数据库查询的支持。NL2Query在关系型数据库以及向量库中来生成Query语句包括Field、Filter、Order等常用query语法。通过APIChain来实现利用OpenAPI协议的标准规范生成指定的API协议并且最终完成API请求。NL2Prompt来实现Prompt生成的可控性以及优化后Prompt的效果。多智能体基础服务汲取业内比较好的多智能体框架如MetaGPT、AutoGen、AutoGPT等优秀开源框架重新实现一套Java版本的多智能体框架利用该框架可以快速构建属于自己业务属性的多智能体应用。流式与非流式输出和传统的API网关一样采用HTTP异步Callback方式可在不阻塞主线程的情况下进行异步请求处理这对于提高应用响应速度和用户体验是非常重要。LangEngine-AgentFramework框架内置的工作流引擎可用于编排微服务架构中的多项服务以极高的性能和低存储成本启动/发送流程实例也可用于传统的流程审批场景在进入某个组件节点执行调用时候通过异步化回调来做节点的线程上下文切换来提升线程的资源池利用率。非流式输出流式输出是一种数据处理和传输方式可逐步传送数据而不是一次性将所有数据发送完。优点降低内存使用允许数据逐段传输和处理不需要将整个数据集存储在内存中。对于处理大文件或数据流这可以显著降低内存占用提高应用的可伸缩性。减少延迟数据可在生成后立即开始传输而不必等待整个数据生成完成。对于实时应用可大大降低端到端的延迟。处理大数据集允许处理和传输大小超过可用内存的数据集因为它不需要在内存中保留整个数据集。提高响应速度可让用户更快地看到部分数据。减少服务器负载通过流式传输服务器可将计算和传输的工作量分配到更长的时间段内而不是瞬间处理大量数据请求从而更好地管理资源和负载。大模型的推理输出是个很耗时的过程运行时链路中也需要支持流式输出的功能。因此LangEngine AgentFlow Engine目前支持HTTP Stream和HSF Stream两种方式。缓存元数据多级缓存随着平台用户的增多平台的请求量和数据访问频率也在迅速提升这对平台、尤其是核心调用链路的响应时间和吞吐量提出更高要求。引入多级缓存架构是提升平台性能的常用手段为减少重复开发、提升系统可复用性设计实现agentpaas通用缓存框架供应用、工具、RAG执行模块使用。问题挑战应用执行链路中涉及的信息类型多种多样有apikey这样的String也有agent运行实例类如何使得缓存配置尽可能轻量又保证缓存的通用性。对于数据插入、更新、删除时的数据一致性保证。解决方案构建 本地缓存 - 分布式缓存 - 数据库 的分级存储架构通过实施多级缓存策略可有效提高API网关在高并发业务场景下的性能和可靠性从而保障系统的快速响应和稳定运行。AgentFramework基于LangEngine框架之上衍生出来真正面向AI业务和平台的Agent构建框架Core最核心模块负责整个流程引擎调度和基础Service SPI的串联可选择任何一款工作流框架作为AgentFramework的工作流引擎集成ModelAgent领域模型包括基础服务接口。建立以Role/Knowledge/Tool为基础的BuiltInAgentModel含Bean内置类和 HSF-SPI动态自定义扩展方式以及FlowAgentModel模型支持EngineOpenAPI Pipeline实现通过该模块可以完成类似于API网关全生命周期的管控例如访问控制、限流策略、黑白名单、参数转换、参数映射、服务调用、服务打点等常见的API网关功能Bundle业务实现模块。包括大模型调用、知识库检索、工具调用等服务集成实现Storage可插拔的持久化模块可针对不同环境扩展各自持久化能力Parse工作流前端UI DSL转换到BpmnXml解析器这里采用了开源的ReactFlow技术作为工作流UI的基座。这个模块主要解决工作流中的FlowSchema转换为可执行的文件实战dependencygroupIdcom.alibaba/groupIdartifactIdali-langengine/artifactIdversion1.2.6/versiontypepom/type/dependency
阿里开源Java多智能体框架LangEngine
概述Agentic ADK是阿里国际AI Business推出、主要使用Java开发、开源GitHub682 Star129 Fork基于Google-ADK和Ali-LangEngine的Agent应用开发框架。特点阿里体系下基于LangChain原理的AI应用框架引入Java特色的工程模块化思路可支持日志记录、业务监控、链式编排实现类流程持久化面向阿里系Java工程开发同学易学易用借鉴LangChain生态特点支持社区生态共建能力具有上下文感知能力将LLM连接到上下文来源提示说明、少提示词示例、响应内容等代理以及Reason依靠LLM进行推理关于如何根据提供的上下文进行回答、采取什么操作等LangEngine框架目前在内部钉钉群里有1200的使用方和开发者内部社区贡献群有40核心贡献者。用于开发、构建、评估和部署功能强大、灵活且可控的复杂 AI Agent。ADK 旨在使Agent开发更简单友好使开发者能够更轻松地构建、部署和编排从简单任务到复杂协作的各类Agent应用。通讯协议LangEngine框架支持接收HTTP的非流式和流式请求也支持集团HSF的非流式和流式内部请求可以提供高效的服务通信能力。运行时协议包括普通API协议和消息协议用于标准数据传输和事件通知。LangEngine支持工作流协议、异步化轮询以及MetaQ消息协议以实现复杂任务的编排和调度。集成AI框架LangEngine框架提供全生命周期的AI应用执行链路的代码实现。内置权限访问和流控插件扩展以确保安全性和资源的有效利用。AI组件网关应用运行时通过统一内部各项服务网关负责将请求路由到后台的HTTP、HSF、算法工作台以及消息服务。元数据缓存采用多级数据缓存策略降低数据库访问频率以高效更新和获取AI应用的元数据信息。未来也会集成到LangEngine开源框架中。应用运维常规的SLS Log打点通过Blink聚合计算回流Hologres生成实时报表采用UniqueId以及RpcId树状机制提供统一日志SDK进行全链路的日志回流。通过这些能力结合系统能够在复杂的应用场景下保持高性能和高可靠性。LangEngine-Core核心模块包括Retrieval、Model I/O、Memory、Chains、Agents、Callbacks以及LangRunnable的动态链编排引擎。Retrieval包括Document loaders从多种不同的源加载文档可以是文本、链接、视频等目前支持txt、pdf、office文件、excel、duckdb、语雀、钉钉文档等格式Transform Text splitters从文档加载之后可针对长文本进行必要分割并对文本进行结构化处理目前支持单词、段落、句子、中文、正则、重叠切分等Text embedding models将分割之后文本转化为一个向量(浮点数)表示可以做一些语义搜索、相似性搜索目前支持OpenAI、Gemini、通义干问、Claude、Llama3等Vector stores将转化后的向量存储到向量数据库中。负责存储嵌入数据并执行向量相似度搜索目前支持Holo、adb、Tair、PolarDB、Pinecone、MemoryMemoryCallbacks提供一个回调系统允许连接到LLM申请的各个阶段用于日志记录、监控、流传输等。可使用整个API中可用的回调参数来订阅这些事件。架构示意图LangRunnable架构可轻松地从基本组件构建复杂的链条提供功能统一接口每个LangRunnable对象都实现Runnable接口该接口定义一组通用的调用方法invoke、batch、stream、invokeAsync等。这使得LangRunnable对象链也可以自动支持这些调用。每个LangRunnable对象链本身就是LangRunnable对象。组合原语提供许多原语可轻松组合链、并行化组件、添加后备、动态配置链内部等。Runnable是一个标准接口可轻松自定义链并以标准方式调用它们提供如下方法invoke在输入上调用chainstream流回响应块batch批量在输入上调用chaininvokeAsync在输入上异步调用chainstreamAsync异步流回响应块batchAsync批量在输入上异步调用chainLangEngine实现AIGC和LLM的高可用异步化设计应用同步单节点异步该设计方案仍然是通过应用同步请求的方式来使用对于部分组件的能力本身如果仅支持异步化请求可以对该节点单独设置可执行异步化操作。这样的优点是用户接入通过同步HTTP方式即可最终得到结果不用感知里面的执行逻辑。而对于网关来说针对于部分节点进行异步化任务提交通过CompletableFuture进行任务的状态轮询当任务的状态为finished或者failed时候再继续下一节点的执行。虽然这种同步方式比较轻量也能达到部分节点异步化的目的但仅能支持异步化比较快速并不产生大量堆积的情况。往往上我们的业务中会执行大量的任务跑批任务可能存在消息队列的任务堆积而这个堆积往往会持续比较久而慢慢去消费掉所以当超过了最大超时时间同步请求就会把超时信息直接异常返回。为了防止任务堆积导致的请求超时于是就有了应用全异步的方案。应用全异步异步化任务提交后将当前的流程实例中断并返回结果完成本轮调用。并将任务ID以及当前的ProcessInstanceId的持久化到Taskinstance表中状态置为暂停。运行时的消息监听程序将接收任务系统的对于组件的任务处理结果任务存在finished和failed两个状态。如果任务是finished状态将进行流程实例的恢复执行signalProcessInstance同时将taskInstance表中的状态置为运行避免任务抢占并将变量上下文从数据库捞起合并任务携带的变量结果恢复流程实例进入到下一个节点。在流程节点到下一个流程节点不在是在同一个主线程之中了这样避免了主线程阻塞并且通过持久化方式进行延迟序列化加载与恢复。自从应用异步化上线以后整体系统性能平稳并且能够支撑比较大的任务堆积流量。应用ServerlessAI应用目前整个调用链路目前都是通过中心化部署的AI应用网关上去执行的由于AIGC与大模型相关服务耗时比较长是个常态存在应用之间资源性能上的相互影响。借助于Serverless技术实现应用容器化隔离。应用分层之后serverless应用面向一线开发者、基座应用面向SRE的角色让应用不再关心基础组件「业务二方包/三方包/中间件/JDK/安全」的升级。应用运维集成框架利用LangEngine日志采集功能通过建立全面而细致的日志监控系统确保能够实时捕获和分析应用运行中的各类事件和异常。这有助于迅速识别和解决潜在问题从而减少停机时间和对用户的影响。通过自研日志SDK和SLS的ilogtail采集多种类型的应用日志并使用Sunfire和BLINK工具进行计算随后通过BLINK SQL将数据存入HOLO数据库以支持快速检索同时提供监控、个性化告警、数据分析等平台功能。总结以阿里LangEngine的AI应用开发框架为核心基础开发者可以快速高效地构建高可用的AI应用网关。通过结合完善的应用运维体系LangEngine为AI应用的整体稳定性提供了坚实的保障使开发者能够专注于业务逻辑和创新而不必担心底层架构和稳定性问题从而更好地应对不断变化的市场需求。阿里LangEngine在未来将重点探索以下几个方向AgentFramework即将开源开发者可以基于AgentFramework框架快速构建AI的工作流应用和智能体应用。流式与智能体异步化支持当前异步化处理已在工作流应用中发挥作用。未来计划将这一异步化方式扩展到流式处理和智能体应用中的CoTChain of Thought规划。这将提升系统的灵活性和响应能力使其能够更高效地处理复杂任务。LangEngine-Multi-Agent框架探索多智能体执行引擎结合multi-agent范式和agentic workflow理念。此项发展将推动系统从传统的Flow架构向智能Flow架构转变。LangEngine-Platform提供对外可视化的AI应用搭建的开源工具并支持一键部署RestAPI统一网关。LangEngine-CommunityLangEngine社区生态模块目前主要会针对六大模块的可扩展功能进行共建。源码结构截图多达183个生态模块由社区共建使用时按需引用pom包。不完全列表模块分类LLM服务集成1.RAG服务LangEngine Retrieval模块包含RAG所需要的丰富元素能基于LangEngine轻松构建RAG服务通过文档加载器加载不同文档的格式类型常用的包括PDF、Text、Excel、CSV、Markdown、Html等文件也包括各类常见编程语言加载器还包括在线网页加载器等提供基于阿里钉钉、语雀、ODPS、TDDL等等阿里集团内部常用的加载器最大限度的支持阿里内部的文档场景。文本分割器实现常用的文本分割器包括递归词句分割的能力。Embeddings和VectorStore集成包括通义千问的嵌入服务或各个阿里云上各种的向量数据库服务。提供常用的Query改写、Rerank服务等支持。通过Retriever、DocumentChain、OnlineSearch构建出RAG的向量检索以及在线检索服务。意图识别服务优秀的大模型的意图识别固然重要如果能够进一步增强意图识别能力也是锦上添花的事情。LangEngine Chain中也提供各种路由链、顺序链、专家链等等可以进一步提升意图识别效果的增强。工具代理调用服务LangEngine Agent模块中内置的各种类型的Agent范式类可构建常见的Agent服务方式通过LangRunnable模块可更加灵活的自定义自己的Agent范式编排可构建出类似于FunctionCall、Planner、ReAct等服务方式通过这些能力可以进行工具的代理调用。GPT服务LangEngine的GPT模块中提供众多GPT服务例如NL2SQL、NL2Query、NL2API、NL2Prompt。通过SQLDataChain实现NL2SQL服务底层也集成TDDL技术进行数据库查询的支持。NL2Query在关系型数据库以及向量库中来生成Query语句包括Field、Filter、Order等常用query语法。通过APIChain来实现利用OpenAPI协议的标准规范生成指定的API协议并且最终完成API请求。NL2Prompt来实现Prompt生成的可控性以及优化后Prompt的效果。多智能体基础服务汲取业内比较好的多智能体框架如MetaGPT、AutoGen、AutoGPT等优秀开源框架重新实现一套Java版本的多智能体框架利用该框架可以快速构建属于自己业务属性的多智能体应用。流式与非流式输出和传统的API网关一样采用HTTP异步Callback方式可在不阻塞主线程的情况下进行异步请求处理这对于提高应用响应速度和用户体验是非常重要。LangEngine-AgentFramework框架内置的工作流引擎可用于编排微服务架构中的多项服务以极高的性能和低存储成本启动/发送流程实例也可用于传统的流程审批场景在进入某个组件节点执行调用时候通过异步化回调来做节点的线程上下文切换来提升线程的资源池利用率。非流式输出流式输出是一种数据处理和传输方式可逐步传送数据而不是一次性将所有数据发送完。优点降低内存使用允许数据逐段传输和处理不需要将整个数据集存储在内存中。对于处理大文件或数据流这可以显著降低内存占用提高应用的可伸缩性。减少延迟数据可在生成后立即开始传输而不必等待整个数据生成完成。对于实时应用可大大降低端到端的延迟。处理大数据集允许处理和传输大小超过可用内存的数据集因为它不需要在内存中保留整个数据集。提高响应速度可让用户更快地看到部分数据。减少服务器负载通过流式传输服务器可将计算和传输的工作量分配到更长的时间段内而不是瞬间处理大量数据请求从而更好地管理资源和负载。大模型的推理输出是个很耗时的过程运行时链路中也需要支持流式输出的功能。因此LangEngine AgentFlow Engine目前支持HTTP Stream和HSF Stream两种方式。缓存元数据多级缓存随着平台用户的增多平台的请求量和数据访问频率也在迅速提升这对平台、尤其是核心调用链路的响应时间和吞吐量提出更高要求。引入多级缓存架构是提升平台性能的常用手段为减少重复开发、提升系统可复用性设计实现agentpaas通用缓存框架供应用、工具、RAG执行模块使用。问题挑战应用执行链路中涉及的信息类型多种多样有apikey这样的String也有agent运行实例类如何使得缓存配置尽可能轻量又保证缓存的通用性。对于数据插入、更新、删除时的数据一致性保证。解决方案构建 本地缓存 - 分布式缓存 - 数据库 的分级存储架构通过实施多级缓存策略可有效提高API网关在高并发业务场景下的性能和可靠性从而保障系统的快速响应和稳定运行。AgentFramework基于LangEngine框架之上衍生出来真正面向AI业务和平台的Agent构建框架Core最核心模块负责整个流程引擎调度和基础Service SPI的串联可选择任何一款工作流框架作为AgentFramework的工作流引擎集成ModelAgent领域模型包括基础服务接口。建立以Role/Knowledge/Tool为基础的BuiltInAgentModel含Bean内置类和 HSF-SPI动态自定义扩展方式以及FlowAgentModel模型支持EngineOpenAPI Pipeline实现通过该模块可以完成类似于API网关全生命周期的管控例如访问控制、限流策略、黑白名单、参数转换、参数映射、服务调用、服务打点等常见的API网关功能Bundle业务实现模块。包括大模型调用、知识库检索、工具调用等服务集成实现Storage可插拔的持久化模块可针对不同环境扩展各自持久化能力Parse工作流前端UI DSL转换到BpmnXml解析器这里采用了开源的ReactFlow技术作为工作流UI的基座。这个模块主要解决工作流中的FlowSchema转换为可执行的文件实战dependencygroupIdcom.alibaba/groupIdartifactIdali-langengine/artifactIdversion1.2.6/versiontypepom/type/dependency
