★ FEATURED ARTICLE 【免费下载链接】ltx-2.5-mlx-ditq8项目地址https://ai.gitcode.com/hf_mirrors/mlx-community/ltx-2.5-mlx-ditq8点击查看免费下载ltx-2.5-mlx-ditq8是 LTX-2.5 视频生成模型的 MLX 量化权重仓库采用int8 group-64 量化配方把约 38 GB 的 bf16 DiTDiffusion Transformer压缩到约 20.6 GB让 64 GB 内存的机器也能轻松跑动视频生成且保真度损失极小。本文将带你完整拆解这份量化配方为什么是 int8、为什么是 group-64、为什么刻意不做 int4。一、为什么要压缩38 GB 的内存危机LTX-2.5 的 bf16 精度 DiT 常驻内存约38 GB。听起来只是装得下但问题在于余量场景内存占用率状态bf16 DiT 64 GB 机器96%仅剩 1.69 GB 余量⚠️ 勉强运行且帧数低于自身配置上限int8 量化 DiT 64 GB 机器57%✅ 从容运行余量充足也就是说量化前机器名义上可用、实际上贴地飞行量化后直接把内存压力从 96% 打到 57%。对于想在 Apple Silicon 上跑视频生成的用户来说这就是能否流畅出片的分水岭。二、量化配方逐项拆解int8 group-64 是怎么定的配方本身记录在仓库的 QUANT-RECIPE.json 中机器可读每一项参数如下参数取值含义bits8每个权重用 8 bitint8存储group_size64每 64 个权重共享一组缩放因子group-wise 量化scopetransformer_blocks only只量化 Transformer 块其他模块保持原精度quantized_modules1632实际被量化的模块数量disk_gb20.595量化后磁盘占用约 20.6 GB这份配方的来源值得注意它不是拍脑袋设计的而是直接沿用了 LTX-2.3 已经验证过的 q8 配方并从 2.3 的 q8 checkpoint 中读取而非重新发明。这种复刻已验证配方的思路是量化工程里降低风险的经典做法。仓库刻意只保留一个文件——量化后的 transformer-distilled.safetensors。文本编码器Gemma-4、connector、VAE、vocoder 等其余组件都来自基础仓库因此这里没有任何需要同步维护的组件简单且不易出错。三、为什么不做 int4一次被数据否决的尝试更激进的压缩int4显然更省内存但作者建了、测了、然后拒绝了原因写得很清楚int4 版本下connector 输出在有效 token 位置读数为0.996728而 bf16 基线读数为0.999879角度误差是基线的27 倍⚠️ 原文态度非常明确int4 不应被使用因此也拒绝发布。这对新手的启示很实际压缩率不是越高越好量化决策必须用实测数据说话。宁可放弃省下的那几 GB也不发布一个精度不达标的版本。四、保真度实测cosine 0.99824 说明了什么在相同输入、发布级几何配置N5632下对量化版与 bf16 版 DiT 的输出做对比cosine 相似度0.99824—— 两者输出几乎重合参照系LTX-2.3 的 q8 用同样方式测量为0.99238结论2.5 的 int8 版本比 2.3 的 int8更接近各自的 bf16 版本 4.3 倍 一个重要的专业提醒原文特意强调量化 vs bf16 的 cosine 值只能在同一测量框架harness内比较。不同工具链产出的数字没有可比性不要把 0.99824 拿去和别的文章里的数值直接对照。五、上手指南如何获取与使用这套权重获取仓库仓库为只读镜像git clone https://gitcode.com/hf_mirrors/mlx-community/ltx-2.5-mlx-ditq8使用方式有两种常驻内存方案直接加载本仓库的 transformer-distilled.safetensors配合基础仓库mlx-community/ltx-2.5-mlx的其余组件由 Python 版ltx-2-mlx或 Swift 版ltx-2-mlx-swift消费。权重流式加载weight streaming方案配合xocialize/ltx-2.5-granules使用——它把这套完全相同的字节按 block 重新布局让 DiT 直接从 SSD 流式读取而非常驻内存输出与常驻方案逐位一致bit-identical且通过了 memcmp 门禁与投毒槽负向对照测试。 两种方案是二选一关系流式方案替代本文件而非补充它取其一即可不要两个都下载。六、许可证须知LTX-2 Community License使用前请留意 LICENSE.md 中的关键条款适用LTX-2 Community License仓库内附使用政策快照ltx-acceptable-use-policy-snapshot-2026-08-12.pdf⚠️收入门槛revenue gate年营收达到1000 万美元的商业实体非商业用途以外的任何使用都需购买付费许可重分发需完整传播上述条款与使用限制七、总结一份教科书式的量化配方核心要点一句话概括压缩比38 GB → 20.6 GB内存占用 96% → 57%配方来源复刻 LTX-2.3 已验证的 q8 配方而非重新发明保真度cosine 0.99824比 2.3 的 int8 更接近 bf16 4.3 倍工程纪律int4 因 27 倍基线角度误差被拒绝发布使用原则常驻加载与流式加载二选一输出逐位一致ltx-2.5-mlx-ditq8 的价值不只在于省了一半内存更在于它展示了量化工程的正确姿势配方可溯源、精度有实测、不合格的方案敢于不发。对想在 Apple Silicon 上部署视频生成模型的新手来说这是一份可以直接参考的完整样板。赞分享【免费下载链接】ltx-2.5-mlx-ditq8项目地址https://ai.gitcode.com/hf_mirrors/mlx-community/ltx-2.5-mlx-ditq8点击查看免费下载相关推荐Civitai Retool 迁移一致性审计用声称 vs 现实审计 Agent 验证迁移清单的真实性Civitai Retool 迁移一致性审计用声称 vs 现实审计 Agent 验证迁移清单的真实性 本文基于 Civitai 仓库中的 retool p为什么 MiniMax-Music3-8bit 选用 affine 量化Group-64 的 8-bit 权重压缩与保真取舍深度解析为什么 MiniMax Music3 8bit 选用 affine 量化Group 64 的 8 bit 权重压缩与保真取舍深度解析 MiniMax Musi终极指南如何在Blender中快速实现3D高斯渲染终极指南如何在Blender中快速实现3D高斯渲染 3DGS Render by KIRI Engine是一款革命性的Blender插件让普通用户也能在熟悉计算机视觉图形学3D渲染上一篇Ming-Image-0.1-Design-4bit 文生图 Swift API 参考MingImageT2IPackage 加载与 T2IRequest 参数详解下一篇compromise 统计插件实战用 TF-IDF 与 N-gram 为文本做特征分析与指纹提取创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
阅读完成 · 觉得有帮助？
