首页 / 资讯中心 / 文章详情

21-PEFT全景-为什么需要它六类方法一张表

21-PEFT全景-为什么需要它六类方法一张表 ★ FEATURED ARTICLE
PEFT 全景:为什么需要它,六类方法一张表看完【大模型面试通关手册 · 第 21 篇】本篇覆盖:PEFT 的三条成本约束、四种分类法与其"最终形态"、八种代表方法的定位、参数口径的三种算法、"FT vs LoRA"两处矛盾的变量分析、显存与速度对照表的正确读法、选型决策树(PEFT 篇 8 题)一、面试现场:这 8 道题其实是一条链素材里这组题的问法:“微调方法是啥?如何微调?”“为什么需要 PEFT?”“介绍一下 PEFT?”“PEFT 有什么优点?”“微调方法批处理大小模式 GPU 显存速度?”“PEFT 和全量微调区别?”“多种不同的高效微调方法对比”“当前高效微调技术存在的一些问题”第一题就有歧义。“微调方法是啥”——是在问"全参微调具体怎么做",还是在问"有哪些微调方法"?素材的回答是把fine-tune和prompt-tune并列,这已经默认了后者。面试时如果你不确认就开始背,很可能答的是对方没问的那个。这 8 题不是零散的,是一条完整的链:环节对应题你该给出的东西
阅读完成 · 觉得有帮助?
咨询建站