★ FEATURED ARTICLE 【免费下载链接】OPSD-VOn-Policy Self-Distillation for Post-Training Few-Step Autoregressive Video Generators项目地址https://gitcode.com/gh_mirrors/op/OPSD-V点击查看免费下载OPSD-V 是一个面向少步自回归Few-Step Autoregressive视频生成的在策略自蒸馏On-Policy Self-Distillation后训练框架基于 Wan2.1-T2V-1.3B 骨干模型。官方发布采用基础生成器 checkpoint LoRA 适配器两部分本部署指南以 tools/merge_lora_to_generator.py 为核心教你把 OPSD-V LoRA 一次性合并进 Wan2.1 骨干产出一个可直接上线推理的标准生成器 checkpoint。一、先搞懂为什么要合并而不是直接加载LoRAOPSD-V 通过学生模型跟随真实部署轨迹 rollout 教师模型在更干净的 KV 上下文上给出稠密监督的方式改善长视频的错误累积和运动退化问题同时不改动原有的 4 步采样器和推理时缓存机制官方检查点分两类见 README.md文件说明checkpoints/longlive_base.ptLongLive 基础少步自回归生成器checkpoints/self_forcing_dmd_ema_as_generator.ptSelf-Forcing DMD/EMA 生成器checkpoints/opsdv_longlive_lora.ptLongLive 路线的 OPSD-V LoRA 权重checkpoints/opsdv_self_forcing_lora.ptSelf-Forcing 路线的 OPSD-V LoRA 权重默认推理方式如 configs/inference_longlive.yaml会在运行时给模型挂上 LoRA 再加载适配器权重。而预先合并的优势在于 产出的就是普通generator全量权重部署时不再依赖 peft 挂 adapter服务链路更简单⚡ 加载路径更短适合固定版本的线上推理服务✅ 输出文件中自带merged_from溯源元信息方便版本管理。二、部署环境一键准备推荐 Python 3.10 CUDA GPUPyTorch 2.5因果 Wan 模块用到flex_attentiongit clone https://gitcode.com/gh_mirrors/op/OPSD-V cd OPSD-V conda create -n opsdv python3.10 -y conda activate opsdv pip install -U pip # 以 CUDA 12.1 为例 pip install torch2.5.1 torchvision0.20.1 \ --index-url https://download.pytorch.org/whl/cu121 pip install -r requirements.txt下载 Wan2.1 骨干与 OPSD-V 官方检查点到checkpoints/mkdir -p checkpoints hf download Wan-AI/Wan2.1-T2V-1.3B \ --local-dir checkpoints/Wan2.1-T2V-1.3B hf download MeiGen-AI/OPSD-V \ checkpoints/longlive_base.pt \ checkpoints/opsdv_longlive_lora.pt \ checkpoints/self_forcing_dmd_ema_as_generator.pt \ checkpoints/opsdv_self_forcing_lora.pt \ --local-dir . 骨干目录也可通过配置项model_kwargs.model_root或环境变量WAN_MODEL_ROOT覆盖。三、运行merge_lora_to_generator合并LoRA合并脚本的参数定义在 tools/merge_lora_to_generator.pypython tools/merge_lora_to_generator.py \ --config_path configs/inference_longlive.yaml \ --generator_ckpt checkpoints/longlive_base.pt \ --lora_ckpt checkpoints/opsdv_longlive_lora.pt \ --output_path checkpoints/opsdv_longlive_merged.ptSelf-Forcing 路线则换成对应的检查点与配置python tools/merge_lora_to_generator.py \ --config_path configs/inference_self_forcing.yaml \ --generator_ckpt checkpoints/self_forcing_dmd_ema_as_generator.pt \ --lora_ckpt checkpoints/opsdv_self_forcing_lora.pt \ --output_path checkpoints/opsdv_self_forcing_merged.pt参数默认值说明--config_pathconfigs/inference_longlive.yaml提供model_kwargs与adapterLoRA 的 rank/alpha 必须与 checkpoint 匹配--generator_ckptcheckpoints/longlive_base.pt基础生成器 checkpoint--lora_ckptcheckpoints/opsdv_longlive_lora.ptOPSD-V LoRA checkpoint--output_pathcheckpoints/opsdv_longlive_merged.pt合并后 checkpoint 保存路径--use_ema关从基础 checkpoint 中读取generator_ema--use_lora_ema关从 LoRA checkpoint 中读取generator_ema--devicecuda无GPU时为cpu合并过程使用的设备脚本内部做了什么流程大致是加载基础权重并自动清理 FSDP 前缀_fsdp_wrapped_module.、module.→ 调用 utils/lora_utils.py 的configure_lora_for_model按config.adapter挂 LoRA → 用peft.set_peft_model_state_dict灌入 LoRA 权重 → 在 tools/merge_lora_to_generator.py 处执行merge_and_unload()把 LoRA 数学地折回主干并卸载 adapter → 保存为普通 checkpoint。四、验证合并结果运行成功后输出文件是一个标准 dictgenerator合并后的全量生成器权重CPU 张量merged_from记录来源的generator_ckpt、lora_ckpt、对应 key 以及 adapter 配置方便审计溯源step若 LoRA checkpoint 中带有训练步数也会一并保留。建议确认打印日志中出现了Loaded generator checkpoint与Loaded LoRA checkpoint且[Warning] missing/unexpected keys数量很少少量缺失通常来自 FSDP 前缀脚本已自动处理。五、合并后快速上线推理合并版 checkpoint 的加载逻辑对应 inference.py。注意 inference.py 中只要配置里存在adapter就会再次挂 LoRA所以给合并权重配一份无 adapter的推理配置复制 configs/inference_longlive.yaml 为configs/inference_longlive_merged.yaml把generator_ckpt指向checkpoints/opsdv_longlive_merged.pt删除adapter:整段和lora_ckpt:行跑推理CUDA_VISIBLE_DEVICES0 python inference.py \ --config_path configs/inference_longlive_merged.yaml \ --data_path example/long_example.txt \ --output_folder outputs/longlive \ --num_output_frames 243 \ --seed_list 1,2 \ --use_lmdb_pipeline \ --lmdb_cache_update_source generated \ --lmdb_use_relative_sink \ --per_prompt_seed生成效果上OPSD-V 后训练显著缓解长视频 rollout 中由 KV 缓存退化带来的画面劣化对比图左为生成缓存 rollout右为真实视频缓存辅助六、常见问题速查现象处理建议KeyError: generator not foundcheckpoint 里既无generator/generator_ema也无model检查文件是否下载完整大量 missing/unexpected keys确认--config_path中adapter.rank/alpha与 LoRA checkpoint 训练时一致LongLive 官方为 rank 256想使用 EMA 权重基础侧加--use_emaLoRA 侧加--use_lora_ema合并结果偏慢/显存不足加--device cpu在纯 CPU 上合并仅合并一次即可复用日志提示 adapter config is missing你误用了无 adapter 的配置去加载原始 LoRA 推理配置二选一即可合并完成后checkpoints/opsdv_longlive_merged.pt即可作为独立交付物直接部署无需再携带 LoRA 文件与 peft 依赖链路。更多 OPSD-V 训练细节可参考 configs/train_longlive_lora.yaml 与 README.md。赞分享【免费下载链接】OPSD-VOn-Policy Self-Distillation for Post-Training Few-Step Autoregressive Video Generators项目地址https://gitcode.com/gh_mirrors/op/OPSD-V点击查看免费下载相关推荐MASCOT部署指南vLLM多GPU推理服务与LoRA适配器合并的实用技巧清单MASCOT部署指南vLLM多GPU推理服务与LoRA适配器合并的实用技巧清单 MASCOTTowards Multi Agent Socio CollabPowerInfer 之 export-lora将 LoRA 适配器离线合并进基础模型并导出 GGUF 实战指南PowerInfer 之 export lora将 LoRA 适配器离线合并进基础模型并导出 GGUF 实战指南 导读 export lora 是 Power人工智能大模型推理引擎本地部署高性能部署llama32-3b-text2sql-spidervLLMLoRA适配器快速推理实战教程高性能部署llama32 3b text2sql spidervLLMLoRA适配器快速推理实战教程 llama32 3b text2sql spider上一篇149 万下载、稳居 ModelScope 第 6GLM-5.3 的点赞动量为何平平热度与口碑之间的裂缝下一篇踩坑实录人体解剖模型一加载就卡成 PPTWebGPU 渐进加载的坑我都替你踩了创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
阅读完成 · 觉得有帮助？
