大模型是参数超十亿、依赖TB级数据预训练、具涌现能力的深度学习系统；其底层为Transformer架构，经预训练、指令微调、对齐优化三阶段训练；按功能分为Base、Chat、多模态、Agent四类。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
如果您看到“大模型”“LLM”“基础模型”等术语频繁出现，却难以厘清其本质与内在逻辑，则可能是由于概念层级混杂、技术路径多样所致。以下是帮助您快速掌握大模型基本逻辑与分类的核心路径：
一、大模型的本质定义
大模型并非单指某类特定结构或用途的模型，而是对一类具备超大规模参数、依赖海量数据训练、拥有强泛化能力的深度学习系统的统称。其“大”首先体现为参数量级——从十亿（如LLaMA-2 7B）到万亿（如GPT-4 Turbo宣称可达1.8万亿）不等；其次体现为训练数据规模，通常覆盖TB级互联网文本、代码、书籍等多源语料；最后体现为能力涌现性，即在未显式训练的任务上突然展现出推理、工具调用、多步规划等高级行为。
1、参数规模是区分大模型与传统模型的关键硬指标，低于十亿参数的模型一般不被视为现代意义上的大模型。
2、训练方式以自监督预训练为主，核心任务是预测下一个词元（next token prediction），无需人工标注即可从原始文本中自动构建学习信号。
3、模型输出并非固定答案，而是基于概率分布采样生成的序列，受温度（temperature）、top-p等解码参数实时调控。
二、LLM 的底层逻辑：Transformer 与三阶段训练
当前所有主流LLM均基于Transformer架构，其核心是自注意力机制（Self-Attention），使模型能动态评估输入中任意两个词元之间的关联强度，从而建模长距离语义依赖。整个工作流程严格遵循“输入→嵌入→多层注意力与前馈网络→logits输出→采样生成”的固定链路。
1、预训练阶段：在无标注语料上进行海量迭代，目标是最大化语言建模损失，习得通用语法、事实知识与世界常识。
2、指令微调阶段：使用高质量指令-响应对（如Alpaca格式）进行有监督训练，使模型理解“写邮件”“翻译成法语”“总结要点”等人类意图表达。
3、对齐优化阶段：通过人类反馈强化学习（RLHF）或直接偏好优化（DPO），将模型输出与人类价值观、安全性、有用性对齐，此阶段不提升知识量，但显著改变响应风格与可靠性。
三、LLM 的主要类型划分
按功能定位与训练路径差异，LLM可划分为若干互斥且正交的类型，同一模型可能同时属于多个类别。分类依据不依赖参数大小，而取决于训练目标与部署形态。
1、Base模型：仅完成预训练，输出为连续文本流，不具备指令遵循能力，典型代表为LLaMA-3 8B Base、Qwen2-7B Pretrained。
2、Chat模型：在Base模型基础上经指令微调与对齐优化，专为对话交互设计，能识别系统提示词、维护上下文、拒绝越界请求。
3、多模态LLM：除文本外，额外接入图像编码器（如CLIP）、音频编码器或视频时空建模模块，实现跨模态对齐与联合推理，例如Qwen-VL、Gemini 1.5 Pro支持图文混合输入。
4、Agent模型：在Chat模型基础上集成规划器（Planner）、记忆模块（Memory）、工具调用接口（Tool Calling），可自主拆解目标、调用API、反思执行结果。
