★ FEATURED ARTICLE 【免费下载链接】cait_xxs36_384.fb_dist_in1k项目地址https://ai.gitcode.com/hf_mirrors/timm/cait_xxs36_384.fb_dist_in1k点击查看免费下载cait_xxs36_384.fb_dist_in1k 是 timm 库中基于 CaiTClass-Attention in Image Transformers架构的图像分类模型由原作者在 ImageNet-1k 上以知识蒸馏方式预训练。本文带你逐行读懂它的模型卡片与 config.json 配置参数从 architecture 到 mean/std 标准化值每个字段的作用一次讲清楚。一、30 秒认识这个模型在解析配置之前先用几句话了解它是谁项目说明架构类型CaiTClass-Attention in Image Transformers视觉 Transformer模型规模参数量 17.4MGMACs 14.4属于轻量级模型输入分辨率384 × 384预训练数据ImageNet-1k1000 类图像分类训练方式论文作者原始训练含知识蒸馏distillation出处《Going Deeper with Image Transformers》ICCV 2021模型名cait_xxs36_384.fb_dist_in1k本身就是信息xxs36表示 extra-extra-small 规模、嵌入维度 36384表示输入分辨率后缀fb_dist_in1k则表示 Facebook 原版、蒸馏训练、ImageNet-1k 预训练。二、仓库文件一览 ️打开仓库你能看到 4 个文件各司其职模型卡片README.md —— 记录模型类型、参数统计、使用示例代码和论文引用是了解模型的第一入口模型配置config.json —— 本文主角定义架构与预训练行为模型权重model.safetensors 与 pytorch_model.bin —— 同一份权重的两种存储格式加载时选其一即可三、config.json 逐项深度解析完整的配置文件仅 33 行但几乎每个字段都会影响模型的行为。下面按 config.json 中的出现顺序逐个拆解。3.1 顶层参数模型长什么样①architectureconfig.json值为cait_xxs36_384。它告诉 timm 应该实例化哪一种 CaiT 变体——层数、通道数、注意力结构全部由这个名字决定你无需手写模型结构代码。②num_classesconfig.json值为1000对应 ImageNet-1k 的类别数。也就是说该模型分类器最后一层输出 1000 个 logits。做迁移学习换成自己的类别时只需在创建模型时覆盖这个参数。③num_featuresconfig.json值为192指模型最终输出特征向量的维度。当用作图像 Embedding 模型去掉分类头时提取出的全局特征就是 192 维。④global_poolconfig.json值为token表示全局池化采用类令牌class token取值方式从 Transformer 输出中直接取 class token 的表示作为整图特征而不是对所有 token 做平均池化。CaiT 专门设计了 class attention 机制token池化正是发挥其优势的标准做法。3.2pretrained_cfg预训练行为全记录pretrained_cfg子对象config.json是理解模型怎么用的关键timm 加载预训练权重和构造数据预处理管道时都会读取它。⑤tagconfig.json值为fb_dist_in1k是预训练版本的标签fbFacebook 原版权重dist知识蒸馏训练in1kImageNet-1k 预训练。同一架构可能有多个 tag如in1k_384、in1k_448等不同分辨率版本tag 用于区分。⑥custom_loadconfig.json值为false表示加载权重时不需要任何特殊处理比如剔除某些层、重映射层名标准流程直接加载即可。⑦input_sizeconfig.json值为[3, 384, 384]即 3 通道、高 384、宽 384 的 RGB 图像。这是模型预训练时的输入规格推理时建议保持一致。⑧fixed_input_sizeconfig.json值为true说明该模型对输入尺寸敏感CaiT 的位置编码按 24×24 的 patch 网格设计不建议随意改动输入分辨率。⑨interpolationconfig.json值为bicubic。当输入图像尺寸与 384×384 不一致时使用双三次插值进行缩放它比最近邻插值能保留更多细节。⑩crop_pct与crop_modeconfig.jsoncrop_pct为1.0、crop_mode为center推理评估时不做裁剪直接居中取整图。crop_pct小于 1 才会触发裁剪如 0.875 对应常见的训练期随机裁剪策略。⑪mean与stdconfig.json这是 ImageNet 数据集的经典标准化参数mean[0.485, 0.456, 0.406]RGB 三通道均值std[0.229, 0.224, 0.225]RGB 三通道标准差所有进入模型的像素都会先除以 255再按像素 − mean/ std做归一化。timm 会根据这两组数字自动生成预处理变换你不用手写 Normalize 代码。⑫num_classesconfig.json再次出现值1000表示预训练权重自带 1000 类的分类头与顶层参数一致便于框架自动匹配。⑬pool_sizeconfig.json值为null。配合global_pool: token理解既然直接取 class token就无需额外指定池化窗口大小。⑭first_convconfig.json值为patch_embed.proj指明模型的第一层卷积是 patch 嵌入模块。这个字段在微调技巧中很常用——例如把第一层卷积换成 2 通道卷积来适配医学图像框架就是靠它定位的。⑮classifierconfig.json值为head表示分类器对应的模块名是head。当你只想要特征而不想要分类结果时框架据此知道该摘除哪个模块。3.3 一张表看懂参数分组分组参数作用一句话结构定义architecture、num_classes、num_features、global_pool决定模型怎么搭建输入规格input_size、fixed_input_size决定输入必须长什么样预处理interpolation、crop_pct、crop_mode、mean、std决定图像如何喂给模型权重要件tag、custom_load、pool_size、first_conv、classifier决定权重如何加载与定位四、配置如何变成实际使用⚙️理解了配置再来看它如何落地。以图像分类为例核心只需一行创建模型import timm model timm.create_model(cait_xxs36_384.fb_dist_in1k, pretrainedTrue)随后用timm.data.resolve_model_data_config(model)即可获得基于 config.json 自动推导的预处理参数resize 到 384、中心裁剪、双三次插值、ImageNet 标准化——pretrained_cfg里的字段正是在这一步派上用场。完整示例见模型卡片README.md。另外两个值得注意的细节图像 Embedding设置num_classes0或调用forward_features可得到未池化的 token 序列形状为(1, 577, 192)——其中 576 个是 24×24 的图像 patch token384 ÷ 161 个是 class token参考 README.md。特征维度呼应这里的 192 维特征向量正是顶层num_features参数的体现。五、新手常见疑问 FAQQ1能改成 224×224 的输入吗不建议。fixed_input_size为true且interpolation固定为 bicubic说明该权重是为 384×384 分辨率调优的改小分辨率会损失精度。Q2model.safetensors和pytorch_model.bin怎么选两者内容相同model.safetensors是更安全、加载更快的现代格式优先选它pytorch_model.bin是为兼容旧版 PyTorch 提供的备份。Q3global_pool: token换成avg可以吗技术上可行但不符合 CaiT 的设计初衷class attention 的价值主要体现在 token 池化路径上更换会损失性能。Q4first_conv和classifier我在哪里用得上迁移学习时改输入通道数靠first_conv定位只取特征、替换分类头靠classifier定位。详见 config.json。总结回到 config.json它不过 30 多行却完整刻画了一个模型是什么、怎么喂、怎么加载的全部信息architecture定结构、pretrained_cfg定行为、mean/std定预处理。读懂这份配置你也就掌握了阅读任意 timm 模型卡片的通用方法。✅模型卡片全文README.md配置参数原文config.json模型权重model.safetensors、pytorch_model.bin赞分享【免费下载链接】cait_xxs36_384.fb_dist_in1k项目地址https://ai.gitcode.com/hf_mirrors/timm/cait_xxs36_384.fb_dist_in1k点击查看免费下载相关推荐ASMv2 config.json全解逐参数读懂多模态大模型的架构配置ASMv2 config.json全解逐参数读懂多模态大模型的架构配置 ASMv2 是 OpenGVLab 开源的 多模态大模型 LLaVA 架构能够如何读懂mitra-regressor-2模型文件config.json参数逐项解读与模型权重下载指南如何读懂mitra regressor 2模型文件config.json参数逐项解读与模型权重下载指南 mitra regressor 2 是 AutoGlu人工智能基础模型大模型机器学习Qwen3.8-2.4T-A95B-Quark-MXFP4 的 config.json 完全解析逐字段读懂 2.4T 巨模型的配置Qwen3.8 2.4T A95B Quark MXFP4 的 config.json 完全解析逐字段读懂 2.4T 巨模型的配置 Qwen3.8 2.4T上一篇JeecgBoot移动端适配方案响应式设计与APP打包实践下一篇3分钟告别登录焦虑这款百度网盘免登录下载工具值得每个分享狂魔拥有创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
阅读完成 · 觉得有帮助？
