从 Qwen 蒸馏到登顶开源榜小米这波“打不过就加入”真香了【免费下载链接】MiMo-V2.6-Distill-Qwen-9B项目地址: https://ai.gitcode.com/XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B最近科技圈有件挺有意思的事小米把自家最强的模型 MiMo-V2.6 拿出来“直播训练”六天时间烧掉的钱够在北京三环买套不错的房子。更让人意外的是最后开源出来的那个 9B 小模型居然是站在阿里 Qwen 的肩膀上做出来的。消息一出评论区直接分成两派。一派说“这不就是抄作业换了个名字”另一派说“能抄出全班第一那也是本事”。那么问题来了小米到底做对了什么这个只有 90 亿参数的“小个子”凭什么敢和动辄几千亿、上万亿参数的巨头掰手腕一、先搞明白蒸馏到底是个啥你可以把大模型想象成一位学识渊博但特别费钱的老教授而蒸馏就是让这位老教授把自己的解题思路、踩过的坑、独门技巧一条条讲给一个年轻学生听。学生不用再从头读几万本书直接学老师的“解题手感”就行。这就是“蒸馏”最朴素的意思——不是把老师的脑子复制过来而是把老师“怎么想问题”这套方法学到手。小米这次选中的“学生”是阿里的 Qwen3.5-9B一个 90 亿参数、本身底子不错的开源模型。然后小米用自家大模型“产”出的高质量数据给这个学生做了一场高强度的特训。打个比方Qwen 是一副好身板小米提供的是私教课和营养餐。身板是别人的但肌肉是练出来的。二、为什么不自研这笔账其实很实在很多人第一反应是小米不是有钱吗干嘛不从头训一个因为从头训一个大模型就像从零开始造一台发动机——不是造不出来而是时间、算力、试错成本三座大山压着。而基于成熟开源模型做二次训练好处是立竿见影的省掉了最烧钱的基础预训练阶段可以直接把资源全部砸在“怎么让它更会干活”上。更关键的是Qwen 生态成熟工具链、部署方案、开发者习惯都是现成的模型练出来立刻就能用不用再等整个配套体系跟上。所以这更像是“借力打力”别人已经修好了高速公路小米负责造一辆跑得更快的车。至于“打不过就加入”这句调侃其实说反了——真正的高手从来不介意站在巨人肩膀上他们介意的是站上去之后有没有比巨人看得更远。三、这个 9B 小模型到底强在哪光说哲学太虚我们看几个特别直观的数字对比。左边是原来的 Qwen3.5-9B右边是小米特训后的版本写代码修 Bug 的能力在一项接近真实工程场景的测试里从 32 分直接干到 44.6 分。这个提升幅度差不多相当于一个刚入行的实习生突然有了三年项目经验。在小米自建的代码测试集上从 19.5 分飙到 51.6 分涨了 1.6 倍多。这种提升不是“多背了几道题”而是真的会拆解任务、会调用工具、会自己检查错误。最能说明问题的是“替人干活”的能力。在一项模拟办公自动化的测试里分数从 5 分涨到 30.3 分在模拟真实岗位任务的测试里从 2.6 分涨到 18.3 分。翻译成人话就是以前它只会陪你聊天现在它能自己打开软件、填表格、跑流程。还有个容易被忽略的亮点——安全攻防。相关测试从 5.7 分跃升到 31.3 分。这意味着它不只会写代码还能帮着找漏洞、看风险。四、藏在背后的“私教课”才是真正的杀手锏这次特训一共“喂”了 774 亿个词元的数据但真正参与学习的只有 272 亿。为什么差这么多因为小米的做法是只让模型学“值得学”的部分。就像给学生看一百本书但只在关键段落上画重点其余的当背景音。这样既省算力又不会把模型带偏。更狠的是数据的“配方”。代码、安全、通用智能体、视觉编程四大类比例经过精心调配谁也不压过谁。结果就是这个 9B 的小模型不仅会写代码还能看图、能理解界面、能处理长达 26 万字的长文档。一个 90 亿参数的模型做到了很多人以为只有千亿模型才敢想的事。顺带说一句小米这次把训练过程直接开直播负责人罗福莉说团队“沉寂半年只钻研一件事”——强化学习到底能走多远。这种把实验室大门敞开的做法在国产大模型圈子里还真不多见。网友调侃说这是“把内卷现场直播给全世界看”。五、普通人能碰到它吗门槛比想象中低这是最关键的问题。答案是比你想的低很多。首先它是完全开源的许可证宽松到可以商用。这意味着任何一家公司、任何一个独立开发者都能把它拿去改成自己的专属助手。其次90 亿参数这个体量属于“消费级显卡勉强能伺候”的范畴。一台配置还行的带显卡电脑或者一张租来的云显卡就能把它跑起来。不用凑一整个机房。再次它天生是个“干活型”选手。会写代码、会操作工具、会看截图、会处理长文档这些能力对应的正是普通人最想解决的麻烦事自媒体创作者让它帮忙整理素材、改标题、批量处理文案办公白领让它读长报告、填表格、跑重复流程学生党让它讲解题目、检查作业思路科技发烧友本地部署一个私有的 AI 助手数据不出门它有“思考模式”遇到复杂问题会先在心里打草稿再回答。对于数学题、逻辑推理这类容易翻车的场景这个功能相当实用。六、写在最后这条路可能才刚刚开始回头看小米这步棋其实挺聪明。不自研基座省下了最贵的时间和算力用自家强模型产数据做蒸馏把“经验”变成了可复制的资产开源出来又顺手把开发者生态拉到自己这边。花一份钱办了三件事。当然质疑也不是没有道理。基座是别人的意味着上限多少受制于人蒸馏出来的能力在极端复杂的任务上能不能扛住也还需要更多真实场景去验证。但有一点可以确定当“从头造轮子”不再是唯一正确的答案当“站在巨人肩膀上再往前跳一步”也被认可整个行业的节奏都会变快。对普通用户来说这意味着更好用、更便宜的 AI 工具会来得比预期更早。那么问题留给你如果有一个 9B 的模型能装在自己电脑上、不上传任何数据、还能帮你写代码改文案你会愿意试试吗还是说你依然更信任那些参数大到吓人的“巨无霸”评论区聊聊你站哪一边。【免费下载链接】MiMo-V2.6-Distill-Qwen-9B项目地址: https://ai.gitcode.com/XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
阅读完成 · 觉得有帮助?