CANN/GE SubgraphBoundary简介

简介【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge用于圈定Subgraph边界Subgraph需要自包含除了边界的输出算子边界内所有算子的数据输出消费者都要在边界内。若有边界外的消费者会导致消费者在重写后找不到原始Tensor。Subgraph中的节点不能跨图。Subgraph不能包含所在图的边界算子data/netoutput/variable等。需要包含的头文件#include ge/fusion/subgraph_boundary.hPublic成员函数SubgraphBoundary() SubgraphBoundary(std::vectorSubgraphInput inputs, std::vectorSubgraphOutput outputs) SubgraphBoundary(const SubgraphBoundary other) noexcept SubgraphBoundary operator(SubgraphBoundary other) noexcept SubgraphBoundary operator(const SubgraphBoundary other) noexcept Status AddInput(int64_t index, SubgraphInput input) Status AddOutput(int64_t index, SubgraphOutput output) Status GetInput(int64_t index, SubgraphInput subgraph_input) const Status GetAllInputs(std::vectorSubgraphInput subgraph_input) const Status GetOutput(int64_t index, SubgraphOutput subgraph_output) const Status GetAllOutputs(std::vectorSubgraphOutput subgraph_outputs) const【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考