ai大模型（二）

1.关于RAG的说明现在呢肯定是需要跟他去交互那这个交互的输入那我们就称他叫提示词了那如果呢一交互发现效果挺好那没问题直接我们就落地啊使用这样的一个反馈就可以了但如果效果不好的话呢我们就需要呢优化提示词这呢就对应了我们前面讲的这个提示词工程啊叫 prompt engineering 啊简称呢叫 PE 啊你说我在公司里边做 PE 的主要呢就是写这个提示词的OK这呢是我们说优化学习词的这个事情然后接着往后走的话呢如果这个效果比较好的呢直接也落地啊如果不好这时候要分析原因啊比如说呢我想查询天气啊然后我想查询一些股票啊等等这样的场景呢我们就需要来调用工具那毫无疑问调用工具的事啊就是由 Agent 来去做的那一会我们讲 Agent 的时候呢大家就比较清楚了所以呢直接就往 Agent 这块去走那如果不是因为缺少工具造成的啊因为呢这个你这个提示词里边啊没有一些相关的示例啊那这时候我们就可以提供一些示例啊这呢就我们前面讲这个叫 few shot 这个问题那通常我发现呢提供示例以后呢这个提示词啊针对这个大模型给到以后呢大模型的反馈通常会更好一些我们就一道提示提供这个示例的问题了OK这呢是一条线另外一条线呢如果是缺乏这个啊相关的参考资料啊你比如针对于当天这个月份的啊当天这个年份的啊你不可能这块一上来我们就开始就重新的去微调模型了啊针对于这个新的一些语料的话呢我们这块呢可以考虑的就是 rag 因为咱们知道这个模型的训练它都会有一个截止时间比如说截止到 2025 年的这个 12 月底那么 1 月份的这个知识呢它就没有是吧那我们就可以通过这个 rag 的方式来给它去做这个补充。好这呢就我们提到这个事情一会呢我们就先来讲它那这个呢如果效果好当然就落地了效果不好的话我们通常的话呢这时候呢就再去结合这个叫 agent 的了啊不是说呢我们这个 rag 不好我们接着就再去找微调哎这个 rag 和微调呢其实它还是两个方向的问题啊一个是缺少这种垂类行业的语料或者是最新的一些语料啊另外呢就是关于这个回复的这种格式啊是吧这个这个交互的这种效果呀哎这种感觉呢稍微的欠妥一点啊不是那么精准那这时候我们考虑的是一个微调的事情啊拿一些有标注的数据啊这个我们重新再去给它再去做一个 sft好那么这个的话呢就回到我们刚才说的这块提供示例后呢发现效果还一般我们就需要来做微调微调效果还不好啊这一方面的话呢我们就去结合Agent另外一方面的话呢可能有必要我们就得需要做这个续训啊那这个续训的话呢它在这个数据量啊相对来说就更大一些那一会我们也会提到这个微调的话呢最起码啊最最起码的得是 500 条以上的有标注的数据当然我们这也需要看具体的场景一会来说那大体上来讲的话一般一提到微调呢就是大几千条数据得有啊而或者说过万的这个数据而这个续训这个事的话呢其实特别像我们最开始讲的哎叫 pre training 是吧哎预训练这个过程这块呢使用的是无标注的这个数据那相对的数据量会更大一些基本上起步呢都是 10 万起的这种数据量OK这呢就我们整个说的这样一个过程啊这个续训呢相当于还是对整个这个模型在一开始啊这个层面的有点像于训练了啊来预测下一个 token 这个层面的这样的一个就是学习海量知识的这个事情啊好那这呢如果效果还不好啊这会再去结合这个Agent啊哎那其实在这里边的话有一个啊一会我们会讨论一个问题啊那比如说我们走到这个环节以后那我们是先考虑这个尝试微调呢还是先考虑这个尝试续训呢啊就如果呢这个微调以后效果比较好的话呢当然呢就直接就走了毕竟呢这个成本比较低那我们用一张 100 的这个显卡或者这个 800 的显卡呢可能就够用了啊但是如果说你要是尝试这个续训的话这个数据量就比较大而且使用的这个资源也会比较多所以呢从这个角度上来讲咱们可能会考虑呢先去做这个微调啊但是这里边大家要考虑一个问题啊就是我们微调这块呢是针对于哎这个模型我们进行的这个啊有标注的这个数据呢做了一些调整啊那这个微调以后呢如果我们再发现呢效果不好又去做这个续训了通常大家会发现呢续训完以后啊这个模型它就会把你之前微调的这样的一些效果呢就给直接给破坏掉了哎所以呢如果你确定我们需要呢做这个续训和这个微调的话啊也就说呢明显你当前这模型比如说我们拿的这个 Deepseek 这个模型啊 32B 的那在你哎相当于想使用的这个垂类领域里边你发现呢它缺的这个语料呢比较多这块呢建议大家就先别考虑微调了你上来呢就先去做这个续训的事情这个续训做完以后相当于给它补充了海量的一些知识啊这个你相应的这个垂类方面的然后补充完这个知识以后的话呢你再去交互发现效果哎确实还不行你在这个基础之上呢再去做这个微调哎这样去处理啊就我这块话呢是说我们微调以后呢未必需要续训但如果确定的是要续训的情况下建议呢是先续训后微调。2.关于微调、续训的说明3.关于智能体的说明