AI场景的异构计算架构

AI场景的异构计算架构

AI场景的异构计算架构

昇腾异构计算架构CANN-昇腾社区 (hiascend.com)

核心组件
昇腾计算语言AscendCL
昇腾CANN软件栈对外暴露的接口层,提供了一套用于在昇腾系列(HUAWEI Ascend)处理器上进行加速计算的API。基于这套API,能够管理和使用昇腾软硬件计算资源,并进行人工智能应用的开发。
昇腾算子库AOL
包括NN库、CV库和BLAS库等,提供1300+个高性能算子,帮助开发者高效方便地进行人工智能模型的开发。
昇腾调优引擎AOE
包括算子调优、子图调优、梯度调优,用于自动地完成模型中算子、计算子图、梯度计算的性能优化,提升模型端到端的运行速度。
昇腾张量编译器ATC
图编译器作为图编译和运行的控制中心,提供图运行环境管理、图执行引擎管理、算子库管理、子图优化管理、图操作管理和图执行控制。张量加速引擎:利用AscendCL提供的开发算子接口,可以直接使用TBE提供的自动调度机制,执行算子编译。
昇腾计算执行器ACE
负责模型和算子的执行,提供运行任务的调度、计算单元运行管理等功能。包括运行管理器、图执行器、数字视觉预处理、人工智能预处理、华为集合通信库等功能单元。
昇腾优选模型库ModelZoo
为开发者提供调优后的高性能预训练模型。

统一异构计算架构释放硬件澎湃算力

端边云全场景协同

支持业界主流AI框架,支持主流操作系统,实现端边云全场景协同


AscendCL使能高效开发

通过实现统一API适配全系列硬件,使能算子、模型以及业务部署的全流程极简开发,助力开发者高效使用处理器能力


释放昇腾澎湃算力

通过极致的图编译、智能的计算调优、丰富的高性能算子,激发处理器最大计算潜力


CANN (最新版本)

 Ascend-cann-nnae_5.1.RC2.alpha005_linux-aarch64.run

ARM平台深度学习引擎软件包,适用于命令行方式安装场景

 Ascend-cann-nnrt_5.1.RC2.alpha005_linux-aarch64.run

ARM平台推理引擎软件包,适用于命令行方式安装场景

Ascend-cann-toolkit_5.1.RC2.alpha005_linux-aarch64.run

ARM平台开发套件软件包,适用于命令行方式安装场景

Ascend-cann-amct_5.1.RC2.alpha005_linux-aarch64.tar.gz

ARM平台开发套件软件包,适用于命令行方式安装场景

 Ascend-cann-nnae_5.1.RC2.alpha005_linux-x86_64.run

x86平台深度学习引擎软件包,适用于命令行方式安装场景

Ascend-cann-nnrt_5.1.RC2.alpha005_linux-x86_64.run

x86平台推理引擎软件包,适用于命令行方式安装场景

Ascend-cann-toolkit_5.1.RC2.alpha005_linux-x86_64.run

x86平台开发套件软件包,适用于命令行方式安装场景

Ascend-cann-amct_5.1.RC2.alpha005_linux-aarch64.tar.gz

x86平台开发套件软件包,适用于命令行方式安装场景

订阅快讯

通过快讯订阅,您将及时收到我们的信息更新通知。