正如我们在上一单元中所讨论的,可以将模型部署到多种计算目标,包括本地计算、Azure 容器实例 (ACI)、Azure Kubernetes 服务 (AKS) 群集或物联网 (IoT) 模块。 Azure 机器学习将“容器”用作部署机制,对模型和代码进行打包,以将其用作可部署到所选计算目标中的容器的映像。
若要将模型部署为推理 Web 服务,必须执行以下任务:
- 注册已训练的模型。
- 定义推理配置。
- 定义部署配置。
- 部署模型。
成功训练模型后,必须将其注册到 Azure 机器学习工作区。 这样实时服务才能在需要时加载模型。
若要从本地文件注册模型,可以使用 Model 对象的 register 方法,如下所示:
将模型部署为服务,该服务包含:
- 用于加载模型并返回提交数据的预测的脚本。
- 运行脚本所需的环境。
因此,必须为该服务定义脚本和环境。
以 Python (.py) 文件的形式为服务创建“入口脚本”(有时称为“评分脚本”)。 它必须包含两个函数:
- init():初始化服务时调用。
- run(raw_data):向服务提交新数据时调用。
通常,使用 init 函数从模型注册表加载模型,然后使用 run 函数对输入数据生成预测。 以下示例脚本显示了这一模式:
Azure 机器学习环境是(机器学习训练发生于其中的)环境的封装。 它们以声明性方式定义 Python 包、环境变量、Docker 设置和其他属性。 下面的代码片段演示了如何为部署创建环境的示例:
创建入口脚本和环境后,可以将它们合并到服务的 InferenceConfig 中,如下所示:
拥有入口脚本和环境之后,接下来需要配置计算,以便部署服务。 如果要部署到 AKS 群集,则必须在部署前为其创建群集和计算目标:
创建计算目标后,现在可以定义部署配置,为容器化部署设置特定于目标的计算规范:
用于配置 ACI 部署的代码与此类似,不同之处在于无需显式创建 ACI 计算目标,并且必须使用 azureml.core.webservice.AciWebservice 命名空间中的 deploy_configuration 类。 同样,可以使用 azureml.core.webservice.LocalWebservice 命名空间来配置基于 Docker 的本地服务。
准备好所有配置后,即可开始部署模型。 执行此操作的最简单方法是调用 Model 类的 deploy 方法,如下所示:
对于 ACI 或本地服务,可以省略 deployment_target 参数(或将其设置为“无”)。
到此这篇自动驾驶数据集搭建(自动驾驶数据库)的文章就介绍到这了,更多相关内容请继续浏览下面的相关推荐文章,希望大家都能在编程的领域有一番成就!版权声明:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若内容造成侵权、违法违规、事实不符,请将相关资料发送至xkadmin@xkablog.com进行投诉反馈,一经查实,立即处理!
转载请注明出处,原文链接:https://www.xkablog.com/sjkxydsj/14869.html