CANN/ge：昇腾图引擎GE

GEGraph Engine 图引擎【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge Latest News[2026/03] 持续增强图优化能力完善单元测试覆盖修复多个边缘场景的编译问题优化文档结构提升开发者体验。[2026/02] 优化自动融合与广播场景支持新增 BF16 数据类型支持增强 HostCPU 引擎能力优化 session 创建销毁锁机制修复外置权重、线程加载等场景下的 bug支持 Reduce 分核轴 Store 地址冲突惩罚提升算子融合效果。[2026/01] GE 项目首次上线开源图编译器和执行器支持 PyTorch、TensorFlow 前端接入以及 ONNX、PB 模型格式解析与编译。 概述GEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。详见昇腾社区文档-图模式开发指南。⚡️ 快速入门若希望快速体验 GE 的工作方式及基本开发流程可参考以下文档构建验证介绍组件的完整构建、测试样例运行流程。快速开始以 ResNet50 模型为例介绍如何使用 ATC 工具进行模型转换并在昇腾 AI 处理器上执行推理。快速开始-LLM以 Qwen 模型为例介绍如何使用 ATC 工具进行LLM模型转换并实现LLM模型的加载、执行和获取执行结果等。 文档如需了解如何使用 GE 进行模型编译与执行可参见图模式开发指南、技术文章等内容 GE 参考资料如果希望深入了解 GE 的内部设计、架构机制与开发流程可参考以下文档GE 架构说明文档介绍核心组件、执行流程、优化机制等内部原理。贡献指南说明如何提交 Issue、Pull Request 以及代码规范。AI Agent支持介绍仓内默认使用的一些skills及使用agent辅助开发流程 生态集成以下项目已集成 GE 作为推理或图模式后端TorchAir将 GE 接入 PyTorch 图模式。链接TFATensorFlow Adapter将 GE 作为 TensorFlow 后端。链接JittorInfer基于昇腾芯片的大模型 C 推理框架。链接Triton GE BackendGE 的 Triton Inference Server 后端。链接说明上述列表为已知并对外公开的集成案例并非完整清单。 若您正在使用 GE欢迎通过 Issue 或 PR 补充我们将持续更新相关信息。 其他信息安全声明许可证 联系我们【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考