图森未来发布图生视频开源大模型“Ruyi”:RTX 4090 就能运行,可生成 5 秒内容

图森未来今日发布“Ruyi”图生视频大模型,并将 Ruyi-Mini-7B 版本开源,用户可以从 huggingface 上下载使用。

图森未来今日发布“Ruyi”图生视频大模型,并将 Ruyi-Mini-7B 版本开源,用户可以从 huggingface 上下载使用。

图森未来发布图生视频开源大模型“Ruyi”:RTX 4090 就能运行,可生成 5 秒内容

据介绍,Ruyi 是一个基于 DiT 架构的图生视频模型,它由两部分构成:

  • 一个 Casual VAE 模块负责视频数据的压缩和解压

  • 一个 Diffusion Transformer 负责压缩后的视频生成

模型的总参数量约为 7.1B,使用了约 200M 个视频片段进行训练。“Ruyi”专为在消费级显卡(例如 RTX 4090)上运行而设计,并提供部署说明和 ComfyUI 工作流,以便用户能够快速上手。

  • 多分辨率、多时长生成:Ruyi 支持最小 384*384,最大 1024*1024 分辨率,任意长宽比,最长 120 帧 / 5 秒的视频生成。

  • 首帧、首尾帧控制生成:Ruyi 可以支持最多 5 个起始帧、最多 5 个结束帧基础上的视频生成,通过循环叠加可以生成任意长度的视频。

  • 运动幅度控制:Ruyi 提供了 4 档运动幅度控制,方便用户对整体画面的变化程度进行控制。

  • 镜头控制:Ruyi 提供了上、下、左、右、静止共 5 种镜头控制。

图森未来发布图生视频开源大模型“Ruyi”:RTX 4090 就能运行,可生成 5 秒内容

Ruyi 是图森未来正式发布的第一款“图生视频”模型。Ruyi 目前仍然存在手部畸形、多人时面部细节崩坏、不可控转场等问题,图森未来称正在改进这些缺点,在日后的更新中对它们进行修复。

图森未来发布图生视频开源大模型“Ruyi”:RTX 4090 就能运行,可生成 5 秒内容

图森未来表示,公司致力于利用大模型降低动漫和游戏内容的开发周期和开发成本。本次发布的 Ruyi 大模型,已经可以实现输入关键帧后,生成之后 5 秒的内容,或输入两个关键帧,由模型生成中间的过渡内容,降低开发周期。在下一次的发布中,图森未来将同时发布两个版本,为不同需求的创作者提供更加灵活的选

AI在线附 Ruyi-Mini-7B 开源链接如下:

https://huggingface.co/IamCreateAI/Ruyi-Mini-7B

相关资讯

视频生成平台 Runway 获得新技能:更改视频比例,图片拥有“电影级”运镜

视频生成 AI 创企 RunwayML 今天推出了“Expand Video”新功能。用户可通过输入文本提示,在原始画面基础上生成额外内容,灵活调整视频比例,该系统能够在扩展画面时保持视觉效果的统一性。

图森未来宣布更名 CreateAI:从自动驾驶跨入 AI 赛道,打造《金庸群侠传》《三体》IP 内容

自动驾驶公司图森未来(TuSimple)今日宣布启用全新品牌 CreateAI,并发布多项在生成式 AI 领域的进展。

图森未来陈默:自动驾驶无以为继,急转驶入AIGC游戏,已拿下金庸群侠传、三体IP | 智者访谈

人工智能的卓越发展源于对技术与产业本质的洞察AI在线视频栏目「智者访谈」邀请领域专家,洞悉 AI 核心趋势深化行业认知,激发创新思考与智者同行,共创 AI 未来自动驾驶行业正经历新一轮洗牌。 其中,全球自动驾驶第一股图森未来的沉浮,折射出整个行业的阵痛:从 2021 年 IPO 时 85 亿美元的估值,到 2024 年初退市,短短三年间历经管理层动荡、美国监管调查、业务收缩及大幅裁员等一系列剧变。 退市之后,转折仍在继续:2024 年 8 月,公司出人意料地宣布进入生成式 AI 应用领域,计划打造基于《三体》的动画电影及视频游戏。