客户背景概述
MOTIVAI PRIVATE LIMITED 是一家面向全球创作者的生成式 AI 视频平台服务商,服务覆盖 177 个以上的国家和地区。平台提供文生视频、图生视频、分镜转视频等能力,并在此基础上扩展到实时可交互的世界模型;创作者既可以直接生成,也可以通过对话式的创作助手逐帧调整画面,或在节点式画布中编排更复杂的制作流程。面向企业客户,平台还提供电商与广告场景的引导式创作流程。 该平台的生成式 AI 工作负载运行在 AWS 上,由创作平台、生成任务流水线、加速算力与基础模型调用四部分组成。首都在线既是该项目的 AWS 专线供应商,为其提供两条互为备份的高可用物理专线,也是其 AWS 托管服务合作伙伴,参与了工作负载的迁移、架构设计与 7×24 托管运维。
业务挑战
- 高端加速算力的可获得性:视频生成模型的训练与批量生成需要高密度的 GPU 算力,而这类算力的按需容量难以长期保障。算力拿不到,排期就无法承诺。
- 脉冲式算力与常驻服务的成本结构不同:集中的生成与训练任务是有期限的高强度负载,创作平台则需要长期在线。两者若用同一种采购方式,要么浪费,要么排不上。
- 全球创作者,单一处理区域:用户来自一百多个国家,生成任务却集中在一个区域处理。任务分发、排队与失败重试必须稳定且可观测,否则创作者只会看到「一直在转」。
- 文本理解环节要在质量与成本之间取平衡:创作流程中的意图理解、提示改写与分镜拆解都依赖基础模型。全部使用最高档模型成本不可持续,全部使用轻量模型又达不到效果。
- 面向消费者的平台需要可审计:创作内容与操作记录需要独立留痕,模型用量需要可计量、可限额,以便对外说明与内部核算。
建议架构概览
基于 AWS 提供的技术支持和最佳实践原则,架构的核心取舍是:生成算力用预留容量保障,模型调用与业务数据分账号存放,创作平台与任务流水线集中在一个区域内闭环。
- 算力用预留容量保障:生成与训练所需的 GPU 算力通过 Amazon EC2 的 Capacity Blocks for ML 预留获得,在预留期内提供确定的容量,不与按需市场争抢。
- 任务流水线闭环:创作请求经 AWS WAF 与负载均衡进入私有子网,由 Amazon EKS 上的应用编排;生成任务经 Amazon MSK 分发、Amazon MQ 传递状态、Amazon ElastiCache 承担队列与热数据缓存,起到削峰与重试的作用,再由 GPU 节点组消费。
- 数据按用途分层存放:模型权重与生成过程中的中间数据放在 Amazon FSx for Lustre 上,供 GPU 节点高吞吐并行读取;成片与素材落 Amazon S3;创作平台的运行状态与审计留痕分别落在两个独立的 Amazon RDS 实例上,审计记录不与业务数据同库。推理镜像统一由 Amazon ECR 分发。
- 对象存储的两条访问路径分开:VPC 内部的读写经 S3 网关端点完成,流量不出公网;创作者侧的素材上传与成片下载则由应用签发预签名 URL,客户端凭 URL 经公网直连 Amazon S3,不经过应用层与负载均衡——大文件的传输压力因此不落在创作平台上。
- 专线双路径接入,并与异地灾备联动:客户在 AWS 之外的自有环境经 两条互为备份的高可用物理专线接入 AWS,由首都在线作为 AWS 专线供应商提供,任一条中断不影响互通;专线经 AWS Transit Gateway 与各 VPC 互联,并与位于 us-east-2 的灾备环境经 VPC 对等联动,生产数据异地留存,灾备侧同样可经专线访问。
- 模型按任务复杂度分层,并集中在独立账号:创作流程中的文本理解环节调用 Amazon Bedrock 上的 Anthropic Claude 系列模型,按任务复杂度分三档路由——高并发的常规文本处理走 Claude Sonnet,复杂规划与长上下文任务用 Claude Opus,短任务与预处理走 Claude Haiku,每一档内并行使用多个版本。这些调用集中在独立的 LLM 账号中,与业务数据分离,用量可独立计量、限额与审计。
- 独立的可观测体系:Amazon Managed Service for Prometheus 承担指标采集与存储,配合 Amazon CloudWatch 与 AWS X-Ray 的日志、告警与链路追踪,覆盖从任务入口到生成完成的全过程。
项目成果
本项目完成后,可实现以下关键目标:
- 预留算力在整个使用期内保持高利用率:预留容量期内,加速算力持续用于生成任务,几乎没有闲置,预留的容量没有被浪费。
- 创作平台持续在线:创作平台与任务流水线按日连续运行,生产与测试环境分离,审计留痕独立存放。
- 模型成本可计量、可控:模型调用集中在独立的 LLM 账号,按任务复杂度分层使用不同档位的模型,用量与成本可单独核算,不与业务资源混在一起。
- 可观测不依赖默认监控:自建的指标采集与存储体系覆盖生成链路的关键环节,问题定位不必等用户反馈。
- 网络接入双路径高可用:首都在线提供的两条物理专线分别落在不同接入点,互为备份,任一条中断不影响客户自有环境、生产区与灾备区之间的互通。
在业务侧,客户在其官网对企业客户公开披露:使用该平台后成本下降 68%、生产速度提升 57%。