异构计算 - AI在线

Creator 面对面 | 昇腾异构计算架构 CANN 的技术进展和未来展望

在 2021 年的最后一个季度， CANN 5.0 版本正式发布。昇腾 CANN 作为平台级的异构计算架构，已经经过了 3 年多的优化，迭代了 4 个大版本，CANN 5.0 在性能方面，AI 模型训练/推理性能大幅提升，用时更短；在功能方面：推理引擎 ATC Suite1.0 首次发布，AI 模型推理性能更高、功能更全面；在便捷性方面：代码开发和调试进一步简化，包括支持混合编程等，使用门槛更低。在性能上，无论是训练规模大小、场景类型，还是推理效率，均有较大提升。实验数据显示，原本需要 6.25 分训练的 BERT 模型，在 CANN 5.0 的加持下缩短了一倍多，只需2.69分钟就能完成训练；至于在 3.0 版本上需要 28 秒训练的 ResNet ，5.0 版本则是“再进化”到 16 秒。