all in one AI百宝箱[Deployment]

2023-05-09 18:49

all in one AI解决方案概述

AI百宝箱解决方案包括适用于特定业务场景的AI/ML模型，如对象检测、图像分类、文本识别、对象提取/生成、文本摘要、意图识别、知识图谱、时间序列预测等，可广泛应用于制造、维护、企业安全生产、内容生产、文档识别、评论识别、短视频内容理解和生成、个性化推荐、广告投放、销售预测等。

该方案包含了AI/ML流程中常用的云端和设备端的数据标注、模型训练、部署推理等基础功能，使整个流程实现低门槛、全功能、可视化、可定制化。客户即使对AI/ML没有深入了解，也可以通过图形化界面完成整个AI/ML流程，解决特定业务场景下的业务问题。

该解决方案可以针对这些特定的业务场景进一步导出AI/ML模型，提供完整的源代码、演示网站以及企业客户可以直接使用或进一步定制的自动化部署方式。帮助企业客户加速整个AI/ML实施流程，推动企业将更多业务负载转移到AWS。

all in one AI特征

支持多种工业模型和可视化演示

已经支持多种工业模型，包括轨道维护、PPE检测、图像分类、图像搜索、文档识别、收据识别、通用对象检测、客户情绪分析、摘要生成、文本标注、文档中的实体和关系提取等，以直观的方式演示实时推理或运行批量推理任务

支持多种机器学习算法

已经支持多种机器学习算法，包括对象检测、图像分类、OCR/表格识别、文本摘要、文本分类、命名实体/关系识别、细粒度情感分析等。您可以根据自己的支持的算法数据按需定制工业模型。

支持完整的机器学习过程

支持标注、训练、云/边部署、实时推理、批量推理、流水线等多种机器学习任务，提供完善的API支持，方便定制化开发，提供多种示例代码，提供部署脚本，实现自动化在全球区域部署。

方案架构及说明

使用 Amazon Application Load Balancer 将流量分配到后端 Web 服务器

使用 Amazon ECS 托管您的 Web 服务器

使用 Amazon API Gateway 代理各种 HTTP/WebSocket 请求

使用 Amazon Lambda 实现各种 Web 服务器的后端功能

使用 Amazon SageMaker 进行 AI/ML 模型训练、部署和推理

使用 Amazon Greegrass 管理 IoT 核心设备/事物组、组件和部署

使用 Amazon IAM 管理对资源的访问

使用Amazon VPC划分隔离网络使用，尽可能将各种资源放在私有子网中，通过VPC端点/接口端点访问亚马逊云技术上的资源

使用Amazon S3保存AI/ML模型的各种数据、模型文件等

使用 Amazon EFS 扩展 Amazon Lambda 的临时存储

使用 Amazon DynamodDB 保存各种元数据

使用Amazon SQS解耦上下游异步数据处理

使用 Amazon OpenSearch 保存标注结果并实现 KNN 搜索图

使用 Amazon CloudWatch 监控资源和应用程序

使用 Amazon CloudFormation 通过模板创建和管理资源

AI平台能力

实施步骤

EC2区域选取

本次次计划在部署IDP的实例上进行AI all in one的部署，但是过程中一直报错，在执行Deployment语句下执行不下去。IDP实例创建在美东一区域，怀疑是pull代码时，跨区域的问题，又从新在us-west-2创建Linux服务器，完成本次实验

下载 all in one ai main zip

在us-west-2创建Linux服务器，下载 all in one ai mian zip

执行如下命令

wget
-O
all-in-one-ai-main.zip
"https://aws-internal-jfxiong.s3.us-east-2.amazonaws.com/Code/All-in-one-ai/all-in-one-ai-main.zip?X-Amz-Algorithm=AWS4-HMAC-SHA256&X-Amz-Credential=AKIASGAEZOGRVUPLBC4F%2F20230330%2Fus-east-2%2Fs3%2Faws4_request&X-Amz-Date=20230330T101150Z&X-Amz-Expires=604800&X-Amz-SignedHeaders=host&X-Amz-Signature=ab69dc6bed79badcd3c790634015482632e88290964b618b19dce90ac6e669c0"

解压并进入到当前目录

查看并解压文件，执行命令unzip all-in-one-ai-main.zip

解压到当前文件夹

执行：在root账户下执行cd,进入到Deployment目录下

Build and Deploy

将目录切换到 [path-to-all-in-one-ai]/deployment 并运行以下命令打包 python 代码并为 Web 门户构建 docker 镜像，然后将资产上传到 S3 并将 docker 镜像推送到 ECR 哪个区域是与 CloudFormation 堆栈所在的相同 AWS 区域。这可能需要 15-30 分钟。参数 s3uri 和 aws-region 是必需的，而参数 algorithm 是可选的，用于指定将内置哪种算法，如果未提供，则将内置所有算法。

./build_and_deploy.sh [s3uri] [aws-region] [algorithm]

执行./build_and_deploy.sh s3://aiallinone/0404test/ us-west-2