快讯6 条
快讯3 条 · 可滚动
本站于 2026-10-19 补核;官方发布日期为 2026-10-17。

出处:DeepSeek 官方文档 · 更新日志官方

本站于 2026-10-19 补核;官方发布日期为 2026-10-14。

出处:xAI · API Release Notes官方

本站于 2026-10-19 补核;官方发布日期为 2026-10-13。

出处:Gemini API · Release notes官方

开源项目解析

DiffSynth-Studio

魔搭扩散模型工程框架,覆盖图像、视频、音乐推理与训练;近期加入 FLUX.3、MOSS-Image 与 OPD 蒸馏加速训练。

写代码的底座一套 API 跑多家模型显存能压到 6GB
Apache-2.0 可商用★ 13.3k 386 星/月最后更新 2026-10-19 · 距核验日 0 个月仓库 ↗

读懂层

2 张 · 工程图 / 流程图

工程图仓库怎么摆

Training Infrastructure

Model Components

Pipeline Modules

diffsynth/ Package

Repository Root

diffsynth/

examples/

docs/

pipelines/
Pipeline implementations

models/
Model architectures

training/
Training modules

utils/
Utilities & data

schedulers/
Noise schedulers

dataset/
Data loading

core/
Core primitives

qwen_image.py
QwenImagePipeline

flux_image.py
FluxImagePipeline

wan_video.py
WanVideoPipeline

ltx2_audio_video.py
LTX2AudioVideoPipeline

ideogram4.py
Ideogram4Pipeline

ace_step.py
AceStepPipeline

DiT Models
QwenImageDiT, FluxDiT, WanModel, LTXModel, Ideogram4DiT

VAE Models
WanVideoVAE, LTX2VideoVAE, Ideogram4VAE

Encoders
WanTextEncoder, LTX2TextEncoder, QwenImageTextEncoder

training_module.py
DiffusionTrainingModule

unified_dataset.py
UnifiedDataset

loss.py
FlowMatchSFTLoss

DeepWiki 架构页 · 抓取 2026-08-16 · 核验 2026-08-16

流程图模型是怎么被加载起来的

Execution

Model Loading

Pipeline Factory

User Code

User Script

ModelConfig objects

Pipeline.from_pretrained()

model_pool
ModelPool.fetch_model()

download_and_load_models()

State Dict Loading

State Dict Converters

PipelineUnit chain

model_fn()
Core iteration

FlowMatchScheduler

VRAM Manager

DeepWiki 架构页 · 抓取 2026-08-16 · 核验 2026-08-16

`Pipeline.from_pretrained()` 按 ModelConfig 拉模型进 ModelPool,推理时按需 `load_models_to_device()` 逐段搬运,用完即卸。各家模型(WanModel、FluxDiT、QwenImageDiT、AceStepDiT…)实现在 `diffsynth/models/`,管线在 `diffsynth/pipelines/`,训练在 `diffsynth/training/`。同时支持 CUDA 与昇腾 NPU。

它管哪几个决定

分镜先出图,再图生视频
8/10 家有官方说法
画面构图线稿 / 姿势 / 深度约束
声音后期配音:改词不重出视频
7/10 家有官方说法
结果可复现权重与随机种子在本地
2/10 家有官方说法

自持能力

权重在不在本地可下载到本地
种子能不能填可填
换掉它要动几处几处

本地权重,seed 是 pipe() 的参数;换模型改 ModelConfig 一处

动手层

文档代码结构踩过的坑实测 未做

装它要过哪几关

  1. 1`pip install -e .`非 NVIDIA 卡(含昇腾)另看官方 Setup 文档
  2. 2选模型先去 `docs/*/Model_Details/` 找对应那一篇 —— 每个模型的显存与参数都写在各自的文档里
  3. 3跑示例`examples/` 下按模型分目录,照着改比从头写快

改哪个文件能改什么

diffsynth/pipelines/各家模型的管线。要看一次生成怎么走,从这里进
diffsynth/models/模型结构实现(WanModel、FluxDiT、AceStepDiT…)
docs/*/Pipeline_Usage/VRAM_management.md显存管理。6GB 跑大模型的开关都在这一篇

坑在哪一处

带 issue 编号的来自:github issues 按回复数排序 · 核验 2026-08-16

训练 OOMissue #532:8 卡 4090 训 Wan2.1 14B I2V 仍 OOM,开着 —— 推理省显存的那套开关不等于训练也省
用 DeepSpeedissue #687:zero_stage 3 训练时张量形状不一致,开着
加载模型被 killissue #333「Loading checkpoint shards: 56% killed」回复 49 条(已关闭)—— 是内存不是显存
找文档文档按模型分散在 `docs/` 下,没有总入口。先确定模型名,再去 Model_Details 里找那一篇

教程

官方文档、作者本人的视频,以及 ComfyUI 官方给的原生工作流示例。每条都验过还打得开。

项目自述

以下是仓库 README 的开头部分(原文引用,抓取 2026-08-17)。读全文 ↗

DiffSynth-Studio

切换到中文版

Introduction

Welcome to the magical world of Diffusion models! DiffSynth-Studio is an open-source Diffusion model engine developed and maintained by the ModelScope Community team. We hope to foster technological innovation through framework construction, aggregate the power of the open-source community, and explore the rich capabilities of generative model technology!

Framework features:

* Model Support: The framework integrates mainstream open-source Diffusion models, covering image generation, video generation, audio generation, and image quality metrics models.
* VRAM Management: Dynamically schedules model parameters across disk, memory, and VRAM, allowing consumer-grade GPUs with low VRAM to run inference with large models.
* Parameter Quantization: Converts model parameters to quantized precisions such as NF4 and INT8, significantly reducing the VRAM requirements of model inference and LoRA training.
* Arbitrary Training: Almost every model that supports inference also supports training, whether base models, LoRAs, or any Adapter models with additional inputs.
* Split Training: Uses a computational graph inference engine to track every variable in the Pipeline, splitting the training process into two stages for efficient training.

References:

* Developer documentation (for humans): 中文版、English version
* Agent Skills (for AI): DiffSynth-Studio Model Integration Skills

See also:

* DiffSynth-ComfyUI: A ComfyUI node package built on DiffSynth-Studio, enabling you to build workflows in ComfyUI to run model inference.
* DiffSynth-WebUI: A lightweight LoRA training tool built on DiffSynth-Studio, enabling LoRA training of models on consumer-grade GPUs.
* ModelScope AIGC Zone (for Chinese users): Productized features powered by DiffSynth-Studio as the core inference and training engine; experience the rich potential of the open-source model ecosystem.
* ModelScope Civision (for global users): Unlock the vast potential of the open-source model ecosystem through productized capabilities powered by DiffSynth-Studio.

Update History

> DiffSynth-Studio has undergone major version updates, and some old features are no longer maintained. If you need to use old features, please switch to the last historical version before the major version update.

> Currently, the development personnel of this project are limited, with most of the work handled by Artiprocher and mi804. Therefore, the progress of new feature development will be relatively slow, and the speed of responding to and resolving issues is limited. We apologize for this and ask developers to understand.

- October 16, 2026 flux-3-image-klein open-sourced, welcome a new member to the image model family! Support includes text-to-image generation, multi-reference editing, layout control, low VRAM inference, and Base training capabilities. For details, please refer to the documentation and example code. We quantized the model with EntroPack, providing pre-quantized models in 3-bit, 4-bit, and 6-bit versions at DiffSynth-Studio/flux-3-image-klein-entropack.

- October 12, 2026 We now support distillation accelerated training based on OPD (On-Policy Distillation), w

……(后略,见原文)

判断

优势

  • 写代码的底座:不想连线的人在这里三行出片,`seed=42` 直接是参数
  • 一个框架覆盖图、视频、音乐多条线,换模型不换框架
  • 显存管理做到层级与磁盘卸载 —— 官方举例 HunyuanVideo 能从 24GB 压到 6GB
  • 魔搭官方在维护,今天还有提交;Apache-2.0

局限

  • 要写 Python —— 不接受这一点的人应该去用 ComfyUI
  • 覆盖面广带来的代价是坑分散:训练侧 OOM、DeepSpeed 张量形状不一致这类 issue 长期开着(#532、#687)
  • 文档按模型分散在 `docs/` 下几十个文件里,没有一条主线
  • 新模型支持来得快,但也意味着接口变动频繁

不适用

完全不写代码的人 —— 它的入口就是 Python API,没有图形界面这一层。

同管这些决定的其它项目

ComfyUI节点式工作流底座。图像 / 视频 / 音频 / 3D / 文本共用一个底座。…Wan2.2文生 / 图生 / 语音驱动 / 角色动画替换,480P–720P。五个变体。…HunyuanVideo腾讯的开源视频生成模型,文生视频与图生视频。720×1280、129 帧。…FramePack把 13B 视频模型压进 6GB 显存的桌面程序。图生视频,一分钟长度、30 帧。…LTX-VideoLightricks 的视频生成模型,主打快。文生 / 图生 / 视频续写,默认 1…MiniMax H3全模态生成:文字、图片、视频、音频进同一个 Transformer,出带 32kHz…ControlNet给扩散模型加条件控制。九种结构信号:Canny 边缘、直线、HED 边界、涂鸦、人体…IP-Adapter用图片当提示词,锁住风格或人物。仅 22M 参数。…ACE-Step音乐生成基座:文生音乐、歌词编辑、音色复刻、remix。…pyvideotrans识别 → 翻译 → 合成 → 回封装的整条流水线,做跨语言配音与字幕。…Real-ESRGAN通用图像 / 视频超分修复,支持 2× / 3× / 4×,含动漫专用与轻量模型。…Practical-RIFE视频插帧:在两帧之间算出中间帧,把 24 帧的片子补成 48、60 帧。作者是 RI…CodeFormer人脸修复:把糊掉、压坏、老照片里的脸修回来。图片与视频都能做。…LatentSync字节开源的口型同步:音频直接驱动潜空间扩散,不经过中间的运动表示。…IndexTTS2B 站开源的零样本语音合成:给一段参考音就能克隆音色,情感可以单独指定。中英双语。…kohya sd-scripts训练脚本集:覆盖 SD1.x/2.x、SDXL、SD3/3.5、FLUX.1;202…musubi-tuner视频模型的 LoRA 训练器。同一套代码训 Wan 2.1/2.2、HunyuanV…Ollama一条命令在本机跑开源大模型。写脚本、翻译这两段靠它才不出本机。…MoneyPrinterTurbo给个主题或关键词,一键出高清短视频,含字幕与配音。…NarratoAI用大模型一键解说并剪辑现成视频。…火宝短剧基于 AI 的一站式短剧生成平台,从剧本到成片全自动化。…ToonflowAI 创作平台:无限画布、AI Agent、可视化工作流,支持图像、视频、分镜和短剧…infinite-canvas面向 AI 创作的无限画布工作台:生图、参考图编辑、视频生成、Agent 助手、画布…open-ai-canvas面向 AI 影视创作的无限画布:多模态生成、分镜编排、素材管理、Agent 工作流。…VOZEB PRO把统一创作 Agent、画布、短剧生产线、素材库和商业运营后台放进同一套 Next.…OpenMontage让 Agent 编排视频生产:通过声明式流水线组织素材、生成、字幕、音频与合成。…video-shotcraft为 Claude Code / Codex 提供产品宣传片镜头配方,以网页截图与文案…Generative Media Skills给 Agent(Claude Code / Cursor / Gemini CLI)…乘风视频剪辑 Skills用 Claude Code Skills 做的视频剪辑 Agent。中文侧最成型的一…OpenChatCut对话式视频剪辑器,本地优先。你说「第二条音轨第 8 秒加个故障转场」,它就去改那一刀…video-podcast-maker给编码 Agent 用的 skill:给一个主题,出一条 4K 带解说的讲解片。11…motion-skills动效技能索引:55 个技能分成 18 个安装包,覆盖短视频、数据动画、网页动效、3D…ComfyUI-ManagerComfyUI 的节点管理器:装节点、装模型、修依赖、查注册表。ComfyUI 生态…ComfyUI-WanVideoWrapper把 Wan 系列模型接进 ComfyUI 的节点包。社区里跑 Wan 的事实标准封装…ComfyUI 官方工作流模板ComfyUI 内置的那批官方工作流模板与子图蓝图的真身仓库。…waoowaoo把一部小说灌进去,自动拆角色、拆场景、出分镜,再合成整集短剧。中英双界面。…JellyfishAI 短剧的端到端工作台:从剧本进,到分镜、角色一致性管理、出片、导出。…魔因漫创桌面端 AI 影视工具(Electron):剧本 → 角色 → 场景 → 导演 → …BigBanana AI Director一站式 AI 短剧 / 漫剧工作台,四阶段:剧本 → 视觉资产 → 分镜制作 → 导…ClipForge带货短视频专用的一站式工具:上传商品图,自动提炼卖点、写种草脚本、配音配字幕加背景乐…短视频工厂跨平台桌面应用:给提示词文本加分镜素材,自动剪出产品营销或泛内容短视频。集成文案生成…AI YouTube Shorts Generator把一条长视频切成一批排好序的竖屏短片:用语言模型找高光片段、用 Whisper 转写…Open AI UGC生成 UGC 风格的口播广告:用多个视频模型出真人感的 AI 演员念你的脚本。定位是…ViGenAiR把一条已有的视频广告用生成式 AI 重新剪成适配不同版位与时长的多条。…LiveTalking实时交互流式数字人引擎,音视频同步对话。支持 ernerf、musetalk、wav…Seedance 2.0 Prompt Skills给 Agent 装的 Seedance 2.0 提示词技能:讲输入约束、@ 引用语法…Drama Skills面向编剧与漫剧工作室的短剧创作流水线:十个技能把一个点子或一部长篇材料,一路做成分集…Seedance2 Storyboard Generator开源剧情剧本技能:把故事拆成分镜,并整合成 Seedance 2.0 认的结构化提示…AI Shortfilm Prompts一个 Claude Code 技能:把任意一个想法变成电影语言的、模型直接能用的视频…Awesome Seedance 2 Prompts整理好的 Seedance 2.0 视频提示词库,README 自述逾六千条,覆盖电…歸藏的提示词库中文 AI 圈里流传最广的个人提示词仓库之一,存放作者为各家模型撰写的提示词。…MidJourney 风格与关键词参考一份带示例图的风格与关键词对照表:同一个提示词加不同风格词,画面变成什么样,逐个列出…AI Visual Prompt Cookbook171 套结构化提示词风格、342 张预览;JSON 模板支持 v2.1 / v2.…PromptLensAI 视频提示词分析工具:丢进一条别人的视频,反推出它的提示词与创作脚本,并做画面分…Prompt Engineering Guide提示词工程的系统性指南:教程、论文、课程笔记与可运行的示例。不针对视频,讲的是提示词…蓝书 AI 视频工具包AI 视频提示词、技能与方法论工具包。2026-10-10 README 自述:60…

github README + GitHub API + LICENSE 原文 + DeepWiki 架构页 · 核验 2026-10-19 | 判断栏可报错。