在 SageMaker AI 上使用 vLLM-Omni 生成图像和视频 - 第2部分
aws ·
本文演示了如何在 Amazon SageMaker AI 上使用 vLLM-Omni 生成图像并将其动画化为视频。该工作流程从单个 AWS Deep Learning Container 部署两个端点:用于 FLUX.2-klein-4B 图像模型的实时端点,以及用于 Wan2.1-VACE-1.3B 视频模型的异步端点。用户提供文本提示以创建静态图像,随后将该图像与运动提示结合,生成简短的 MP4 视频。该解决方案利用 Amazon S3 处理通过异步推理进行视频生成所需的大型多部分负载。文章提供了命令行界面和 Streamlit 应用程序以促进这一端到端流程。作者强调,将图像和视频任务分离,使每个模型都能根据其特定的延迟和负载要求选择最优的实例类型和推理模式。
aws