大模型全景图

技术演进对比总结表维度统计语言模型 (SLM)神经语言模型 (NLM)预训练模型 (PLM)大语言模型 (LLM)主要时间1990s2003 - 20172018 - 20202020 - 至今代表模型N-gram, Kneser-NeyNPLM, Word2Vec, Seq2SeqBERT, GPT-1/2, T5GPT-4, LLaMA, DeepSeek基本单元/架构词频统计 / 计数模型前馈网络, RNN/LSTMTransformer (Encoder / Decoder)大规模 Transformer (多为 Decoder-only)文本表示离散符号 / One-hot低维连续静态向量 (Static Embedding)上下文动态表征 (Contextualized)泛化通用隐空间 / 多模态统合使用范式规则/统计管道特征提取 浅层下游模型Pre-train Fine-tune(微调)Pre-train RLHF / In-context Prompting核心驱动力概率论与统计学优化连续向量代数与反向传播预训练自注意力与通用表征迁移算力缩放Scaling、人类对齐与自主推理RL大模型时代的分工金字塔大模型出厂研发生命周期 ➔ 下游工程落地与选型映射全景图LLM技术选型未来大模型与通用智力网络