部署算法模型

本文介绍部署算法模型的详细步骤。

前提条件

在新建部署前,需将模型文件上传到GitLab项目中,并通过数据源注册注册GitLab数据源,完成连通性测试。详细信息,参考 配置GitLab数据源

新建部署

通过以下步骤,新建部署:

  1. 登录EnOS管理门户,从左侧导航栏中选择 算法模型托管,点击 新建部署

  2. 基础信息 一栏中,输入部署名称及描述信息。

  3. 模型及部署文件 一栏中,点击 添加 按钮,选择已注册的GitLab数据源,输入GitLab项目中保存的模型和部署文件的路径。

    ../_images/git_path.png

    备注

    上传文件路径的格式为:{branch}/{directory}/{filename} 或者 {tag}/{directory}/{filename},例如:master/demo.py

  4. 点击 确定,上传文件,已上传的文件将展示在文件列表中。可重复以上步骤,上传更多文件。

    备注

    单个文件的大小不得超过2MB,文件个数不得超过10个。更新文件时,需删除文件列表中的同名文件后再添加文件。

  5. 模型部署 一栏中,选择入口文件,输入入口函数名称,选择模型部署的运行环境。入口函数的规范,参考以下示例:

    def handle(event):
        response = "path: " + event.path + "\n" \
            +"method: " + event.method + "\n" \
            +'args:' + event.args.get('id') + "\n" \
            +'header:' + event.headers.get('User-Agent') + "\n" \
            +'body:' + str(event.body, encoding="utf-8")
    
        return {
            "statusCode": 200,
            "body": response
        }
    
  6. 点击 确定,保存部署配置,参考以下示例:

    ../_images/sample_deployment.png

后续操作

算法模型部署配置完成后,需要手动启动部署。详细信息,参考 启动和管理部署