CANN/GE DataFlow C++开发准备

开发前准备【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge环境准备支持的产品型号Atlas A2 训练系列产品/Atlas A2 推理系列产品和Atlas A3 训练系列产品/Atlas A3 推理系列产品。已经安装CANN软件详细操作请参见《CANN 软件安装》。[!NOTE]说明 AI Server场景下安装节点应采用容器/虚拟机隔离容器/虚拟机的生命周期与业务进程/租户保持一致。容器/虚拟机生命周期结束时要清理持久化数据避免对下一个业务进程/租户的影响。必选环境变量安装CANN软件后使用CANN运行用户进行编译、运行时需要以CANN运行用户登录环境执行source ${INSTALL_DIR}/set_env.sh命令设置环境变量。${INSTALL_DIR}请替换为CANN软件安装后文件存储路径。以root用户安装为例安装后文件默认存储路径为/usr/local/Ascend/cann。export RESOURCE_CONFIG_PATHnuma_config.json //用于设置配置异构资源描述信息文件的存储路径。[!NOTE]说明 numa_config.json请参考附录。可选环境变量export ASCEND_GLOBAL_LOG_LEVEL0 //设置应用类日志的日志级别及各模块日志级别仅支持调试日志。0对应DEBUG级别。 export ASCEND_SLOG_PRINT_TO_STDOUT1 //是否开启日志打印。1表示开启日志打印。具体说明请参考《环境变量参考》。上述环境变量只在当前窗口生效用户可以将上述命令写入~/.bashrc文件使其永久生效方法如下以安装用户在任意目录下执行vi ~/.bashrc在该文件最后添加上述内容。执行**:wq!**命令保存文件并退出。执行source ~/.bashrc使环境变量生效。网络分析通过FlowData和FlowNode构建Graph需要根据网络明确如下信息网络包含几个输入通过FlowData表示。网络包含几个计算节点通过FlowNode表示。FlowNode里的实际计算由ProcessPoint表示ProcessPoint有两种GraphPp和FunctionPp如果是GraphPp请参考《图开发》中的“UDF开发”自定义用户功能。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考