Amazon WebServices 已经发布了来自其 SageMaker Neo 机器学习的相关代码，Neo-AI 是 Apache软件许可下的项目。SageMaker Neo 最初于2018年11月在 AWS Re:Invent 上推出，旨在帮助开发人员针对硬件平台优化现有机器学习模型。

同样，Neo-AI 将和芯片制造商、设备制造商和开发商一起，针对各种硬件平台优化机器学习模型。

AWS 表示，Neo-AI 会自动优化 TensorFlow、MXNet、PyTorch、ONNX和XGBoost框架的模型，并可能将这些模型的运行速度提高一倍，而不会损失准确性。

该平台还支持将不同模型转换为通用格式，以减少兼容性问题。

总的来说，AWS 开源 SageMaker 的目标是加快边缘设备上的机器学习部署速度。AWS 的 Sukwon Kim 和 Vin Sharma 在一篇博文中写道：“通常情况下，为多个硬件平台优化机器学习模型是很困难的，因为开发人员需要针对每个平台的硬件和软件配置手动调整模型。”这对于计算能力和存储方面往往受到限制的边缘设备来说尤其具有挑战性。

目前，英特尔、NVIDIA 和 ARM 相关硬件目前支持 Neo-AI ，Xilinx、Cadence 和高通硬件将在晚些时候推出。