关注云计算里那些特别适合机器学习用的服务，帮你快速搞定模型训练和部署

（来源：知乎专栏《云上AI》）关注云计算里那些特别适合机器学习用的服务，帮你快速搞定模型训练和部署，现在做机器学习，自己从零开始搭环境、买机器太麻烦了，尤其是搞深度学习，对显卡（GPU）要求高，自己买卡成本吓人，而且技术更新快，设备容易过时，云计算平台把这些难题都打包成了现成的服务，让你能像点外卖一样，按需取用各种强大的计算资源，把精力完全集中在模型设计和调优上。

（来源：AWS官方博客）先说模型训练这块，训练模型最核心的就是算力，特别是GPU，各大云厂商都提供了专门为机器学习优化过的虚拟机实例，亚马逊AWS的P实例和G实例（来源：AWS文档），里面就搭载了最新的NVIDIA GPU，像A100、V100这些，你不需要懂怎么装显卡驱动、配置CUDA环境，直接选择一个预装好主流机器学习框架（比如TensorFlow、PyTorch）的镜像，开机就能用，微软Azure的NCv3系列（来源：Azure产品页面）和谷歌云的TPU（张量处理单元）服务（来源：Google Cloud博客）也是同样的道理，TPU甚至是谷歌专门为TensorFlow设计的硬件，在特定任务上比GPU还要快，这种按需使用的模式特别划算，你训练模型可能只需要几十个小时，那就只付这几十个小时的钱，不用承担显卡贬值的风险。

（来源：阿里云机器学习平台PAI文档）光有虚拟机还不够，配置和管理环境仍然有点技术门槛，云厂商推出了更高级的“托管式”训练服务，比如阿里云的机器学习平台PAI（Platform of AI）（来源：同上），它提供了一个集成的环境，你只需要把代码和数据上传上去，通过图形化界面或者SDK指定要用什么计算资源（比如用几个GPU），它就在后台帮你把集群拉起、执行训练任务、完成任务后自动释放资源，你完全不用操心服务器运维，只需要看最后的训练结果和模型文件，这大大降低了机器学习工程化的难度。

（来源：AWS SageMaker功能介绍）在托管训练服务里，亚马逊的SageMaker（来源：AWS SageMaker功能介绍）是个典型的代表，它把机器学习的整个流程都模块化了，它的“实验管理”功能让你能方便地跑大量不同参数的训练任务，并自动记录每次实验的数据、代码和结果，方便你比较哪个模型最好。“自动机器学习”（AutoML）功能更厉害，你只要把数据给它，它就能自动尝试多种算法和参数，帮你找出一个表现不错的模型，对于不太精通算法或者想快速验证想法的人来说是神器。

（来源：Google Cloud AI Platform介绍）模型训练好之后，下一步就是部署上线，让模型能对外提供预测服务，这就是模型部署要解决的问题，自己部署模型很头疼，要考虑服务器的负载均衡、弹性伸缩、监控告警等一系列运维问题，云上的机器学习服务同样把这件事简化了，比如谷歌云的AI Platform预测服务（来源：Google Cloud AI Platform介绍），你只需要把训练好的模型文件（比如TensorFlow的SavedModel格式）上传到云端，它就能自动生成一个HTTPS的API端点（URL地址），你的应用程序，无论是网站还是手机APP，都可以通过调用这个API来获取模型的预测结果，背后的一切，比如流量大了自动扩容、版本更新无缝切换，都由云平台自动处理。

（来源：Azure Machine Learning服务文档）微软Azure Machine Learning服务（来源：Azure Machine Learning服务文档）在部署方面也有特色，它支持将模型部署到从云端到边缘的各种环境，你可以把模型部署成Azure Kubernetes服务（AKS）上的Web服务，应对高并发场景；也可以将模型打包成容器，部署到边缘设备（比如工厂里的工控机）上，在本地进行实时推理，这对于网络不好或者要求低延迟的应用场景至关重要。

（来源：国内云厂商技术社区分享）除了这些巨头，国内的云厂商如腾讯云的TI-ONE、TI-MS平台（来源：国内云厂商技术社区分享），华为云的ModelArts平台（来源：华为云官网），思路也都很相似，都是提供从数据预处理、模型训练、模型评估到模型部署的一站式全流程服务，它们通常还对中文自然语言处理、计算机视觉等本土化需求强烈的场景做了特别优化。

云计算提供的这些机器学习服务,本质上是将复杂的底层基础设施和运维管理工作抽象化、自动化，它们让你不需要成为运维专家或硬件专家，也能高效地开展机器学习的模型训练和部署工作，大大加快了AI项目从想法到落地的速度，对于个人开发者、初创团队甚至是大企业的AI部门来说，利用好这些云服务，都是一个在成本和效率上非常明智的选择。