118 个开源项目,按「基座模型 / 数字人 / 成片工作流 / 后期增强 / 语音 / 音乐音效 / 加速工程化」七层拆开, 每个都给真实门槛:显存占用、商用协议、优点与短板。附四条可照抄的 ComfyUI 配方和能直接跑的脚本, 目标是从"选哪个"一路走到"跑起来"。
决定画质上限的一层。看三个数就够:参数规模、原生显存、协议。
阿里通义万相。MoE 架构,T2V-A14B / I2V-A14B / TI2V-5B 三档。中文提示词原生支持,ComfyUI 生态最厚,是本目录的默认推荐。
腾讯混元的轻量化分支,8B 级,主打「消费级显卡能跑」。画面上限仍在第一梯队,是中端卡跑大模型的主要路径。
13B DiT,开源时对标并超过同期闭源产品。皮肤、光影质感一流,代价是原生 45GB 显存起。
唯一认真做速度的一支。2B 档秒级出片,适合当"预览器"反复试 prompt;13B 档补画质。两段式工作流的另一半。
上一代但仍是低配首选:1.3B 版本 8GB 显存可跑(4090 上 5s 480P 约 4 分钟)。LoRA 与量化资源极为丰富。
不是单模型,是可复现的训练+推理全套栈(2.0 为 11B)。要私有化训自己的垂直模型,这是唯一有完整工程参考的项目。
24B 自回归,分块流式生成——可以做"边生成边播"的交互产品。未量化要 4×H100 级,量化后单卡 80G。
昆仑万维,扩散强迫(Diffusion Forcing)实现无限长度视频生成,14B。协议需逐条确认后才能商用。
6GB 显存跑 60 秒长视频,笔记本可用。基于 HunyuanVideo 改造,画质有让步,但门槛低到几乎没有。
阿里统一视频编辑/生成模型:局部重绘、换装、换背景、参考图生视频、姿态与深度控制。开源里"改视频"最实用的一个。
10B AsymmDiT,运动自然度与提示词跟随至今不落后。480P 是天花板,连训练代码都开源。
阶跃星辰,30B,开源里参数最大的 T2V 之一,少见的 MIT 协议。可惜要多卡才跑得动。
让一张脸说话。画质上限由素材决定,模型只决定"像不像"——正面、均匀光、无遮挡比换模型有效得多。
基于 Wan2.1-I2V-14B 的音频驱动模型,不限时长、音画同步精准,支持"单图驱动"和"原视频只改口型"。长口播的首选。
字节的潜空间唇形重绘,只改嘴、画面其余不动。1.5/1.6 版本是社区公认"嘴型最贴合"的一档,比 Wav2Lip 清晰得多。
NeurIPS 2025,同一画面多人轮流说话、各自对口型。双人访谈、播客可视化、群聊场景。
蚂蚁的音频驱动半身数字人,除口型外还生成手势与身体姿态。讲解类视频观感明显好于"只有头在动"。
快手,一张图 + 一段驱动视频 → 迁移表情、眼球、头部姿态,实时级。让照片活起来、给 AI 人像加真实微表情。
数字人克隆 + 离线生成工具链,含 Docker 服务与 Android/iOS SDK。少见的"能直接打包进 App/私有服务器"的工程方案。
经典低配方案,4GB 显存、速度极快,适合批量。但嘴部区域分辨率很低,1080P 素材上会明显发糊。
单图生成头部整体动画(头动+眨眼+嘴),比 Wav2Lip 自然。2024 年后停更,画面偏塑料感。
把画面组织成一条能发布的视频:剧本、分镜、配音、字幕、剪辑、批量导出。
节点式推理引擎,视频生成的实际工作流 90% 跑在它上面。模型切换、LoRA、tile 放大、首尾帧插值、批处理队列全在图里连。
短剧/漫剧完整生产线:剧本 → 智能分镜 → 角色与场景资产 → 图像 → 视频。无限画布 + AI Agent + MCP,MIT 可商用。
短剧垂直工作台,剧本到结构化分镜再到成片,风格更贴"剧组流程"。Apache-2.0 商用友好。
给主题就出竖屏视频:文案 → 素材 → 配音 → 字幕 → 拼合。注意它不是生成模型,是素材库 + TTS + 剪辑自动化。
阿里 FunASR 底座,本地转录 + 热词 + LLM 辅助,按文本直接剪出片段。口播/访谈切片效率极高,全本地。
视频转字幕 → 翻译 → AI 配音 → 声音克隆 → 字幕烧录,全平台桌面工具,Whisper/FunASR 本地模型 + GPU 加速。
一键生成产品营销短视频,跨平台桌面端,AI 批量自动剪辑。带货矩阵、多账号批量产出。
译制一条龙:下载 → 转录 → 翻译(LLM 断句)→ 配音 → 对齐 → 字幕烧录。VideoLingo 偏质量、KrillinAI 偏一键出片,两者都是 Apache-2.0。
国产视频翻译/配音桌面工具,中文文档全、集成多家 TTS 与识别引擎,适合非技术用户批量处理。
Agentic 视频生成:导演、编剧、制片、生成器拆成多 Agent 协作。研究性质强,工程可用性待观察。
生成出来的素材往往不够用:分辨率低、人脸崩、闪烁。这一层负责"救"——但只能救,不能造。
换脸 + 口型同步 + 人脸增强一体化,Web UI 与 CLI 都有。遮罩、区域限制、帧间一致性都做了,工程完成度极高。
通用超分与去噪,realesrgan-x4plus 系列是行业默认件。BSD-3 协议,商用极友好。
人脸修复,把模糊/崩坏的脸还原到可用水平。视频里必须配人脸掩膜融合,否则非人脸区域会被改花。
ICCV 2025 视频超分,时空增强 + T2V 模型先验,专治视频超分的闪烁与纹理丢失。
把超分 + 补帧打包成一条命令/一个 GUI,内置 Real-ESRGAN、RIFE 等多个后端,最适合"整段视频一把过"。
ProPainter 做视频擦除(去水印、去路人、去电线),时序一致;IOPaint 做图像修复与物体移除,可配合逐帧处理。
chaiNNer 是节点式图像处理流水线(超分/修复/批量),Upscayl 是一键放大 GUI。做素材预处理比写脚本省事。
视频的"AI 感"有一半来自声音。商用与否在这一层的差别最直接。
阿里。3 秒参考音频克隆音色,流式合成首包约 150ms,中英日韩 + 方言/情感/语速指令控制。中文自然度第一梯队且真可商用。
B 站出品。情感与音色解耦,可以"用 A 的音色说 B 的情绪",中文韵律和停顿最像真人。但明确禁止商用。
多语言 TTS + 克隆,13 种语言,有实时版本。代码 Apache-2.0 但权重是 CC-BY-NC,商用需单独买授权。
声音转换的事实标准:10 分钟素材就能训出音色,保留你的语气和情感。变声、配音换音色、翻唱都靠它。
ChatTTS 的中文口语感和停顿最自然(但音色不可控、AGPL);F5-TTS 是 MIT 里质量最好的零样本克隆,中英双语。
AI 生成的视频默认是静音的,没有 BGM 和环境音就"假"。这一层负责把声音补齐。
开源音乐生成最强档之一:整首歌(分钟级)、人声+伴奏、中英文歌词。显存要求高,24GB 起。
快速音乐生成,秒级出 4 分钟曲子,支持歌词与风格控制。批量做无版权 BGM 的实用选择。
视频转音效:给一段无声视频,自动生成匹配的脚步、风声、碰撞声。CVPR 2025,MIT 可商用。
Meta 的 MusicGen / AudioGen 官方库,纯器乐与音效生成稳定,MIT 协议。单次 30 秒级片段。
UVR,人声/伴奏/鼓/贝斯分离的 GUI 工具,内置多种模型。做翻唱、提干净人声的标配。
腾讯的视频拟音模型,音画同步质量高,适合给成片补环境层。协议需确认后再商用。
同样一张卡,"原生跑"和"工程化跑"差 3–10 倍,甚至决定跑不跑得起来。这层最容易被忽略,回报率却最高。
SVDQuant 4-bit 量化官方实现。Wan2.2-A14B 的 fp16 权重 28GB → 约 7GB,从"必须 offload"变成"常驻显存",速度提升 2–3 倍。
注意力用 INT8/FP8 算,其余保持高精度,端到端 2–5 倍。视频模型注意力占比 60%+,收益最大。ComfyUI 加 `--use-sage-attention`。
判断哪些去噪步可以跳过、直接复用上一步结果。1.5–2 倍加速,和其他加速手段可叠加。草稿开、终稿关。
统一推理 + 蒸馏 + 后训练框架。蒸馏模型 4–8 步出片,配合量化就能在消费卡上做到一分钟一条。
DiT 多卡并行引擎(序列并行 / 流水线 / CFG 并行)。单卡跑不动 24B–30B 时用两张以上卡把序列切开。
真正决定生产力的一层:Manager 装插件、VideoHelperSuite 读写视频、WanWrapper 做长视频拼接与 LoRA 组合、Frame-Interpolation 补帧。
数值为官方文档/社区实测的量级估算,量化(fp8/GGUF)+ 分层 offload 可再降一档,代价是速度。
| 档位 | 代表模型 | 原生显存 | 量化后 | 4090 上 5s 720P |
|---|---|---|---|---|
| 轻量 | Wan2.1-1.3B · FramePack · LTX-2B | 8 GB | 6 GB | 30 秒 ~ 4 分钟 |
| 中量 | Wan2.2-TI2V-5B · CogVideoX-5B | 12–18 GB | 8–10 GB | 3 ~ 8 分钟 |
| 标准 | Wan2.2-A14B · LTX-13B · HunyuanVideo-1.5 | 40–48 GB | 24 GB | 8 ~ 20 分钟 |
| 重量 | HunyuanVideo-13B · Mochi-10B | 45–60 GB | 24 GB(慢) | 15 ~ 40 分钟 |
| 重型 | Step-Video-30B · MAGI-1-24B | 80 GB+ / 多卡 | 单卡 80 GB | 不适合单卡 |
| 协议 | 代表项目 | 能否商用 |
|---|---|---|
| Apache-2.0 | Wan2.2 · LTX-Video · Mochi · InfiniteTalk · LatentSync · CosyVoice · VACE | 可以,保留声明 |
| MIT | Toonflow · ViMax · FunClip · SmartSub · MoneyPrinterTurbo | 可以 |
| BSD-3 | Real-ESRGAN | 可以 |
| GPL-3.0 / AGPL-3.0 | ComfyUI / Pallaidium · short-video-factory | 自用可以;分发或做 SaaS 要开源 |
| 自定义许可 | HunyuanVideo · SkyReels · facefusion · Duix-Avatar · LivePortrait | 默认非商用,逐条读或买授权 |
| 无 LICENSE | Wav2Lip | 保留所有权利 |
| CC-BY-NC | fish-speech 权重 · IndexTTS | 非商用 |
另外两条跟代码协议无关的线:真人肖像(换脸、数字人克隆)需要本人书面授权;训练数据来源会带来平台侧风险。这两条是法律问题,代码协议管不到。
每篇都有逐项目的规格、门槛、优点短板和选型速查表。