Triton - AI在线

Triton推理服务器在阿里云机器学习PAI-EAS公测啦！！！

引言近些年来，随着GPU等计算设备算力的飞速提升，对算力要求较高的深度学习模型逐步开始在网购、医疗、音视频领域有了越来越广泛的应用。如何结合深度学习框架，用好高算力的GPU设备，是我们在AI基础建设中遇到的一个至关重要的问题。英伟达公司从硬件厂商的角度出发推出了Trition推理服务器，阿里云PAI平台从云原生服务角度出发，推出了PAI-EAS云原生弹性推理服务平台，目的都是为了更好地帮助用户更好更方便地部署深度学习，提供优质的在线预测服务。首先我们来了解一下Triton和EAS具体是什么，以及我们为什么要将两者进