思维树 技术
思维树是一种让语言模型在多个候选推理路径上展开搜索的提示框架，通过生成、评估与回溯，克服单一思维链线性推理的局限，提升需要探索与规划的任务表现。
大语言模型词条
子词切分与词表 技术
子词切分把文本拆成介于字符与整词之间的单元，配合固定词表将文本映射为模型可处理的整数序列；BPE、WordPiece 与 SentencePiece 是主流实现，直接影响模型的效率与多语言表现。
解码与采样策略 技术
解码与采样策略指语言模型生成文本时从概率分布中选择下一个 token 的方法，包括贪心、束搜索、温度调节、Top-k 与 Top-p 等，直接决定输出的确定性、多样性与流畅度。
状态空间模型 技术
状态空间模型是一类以线性动态系统描述序列的建模方法，在深度学习中作为注意力的替代或补充，能够以近似线性的复杂度处理长序列，Mamba 是其代表性实现。
Phi 系列模型 产品
Phi 系列是微软研究院推出小参数语言模型，核心思路是用高质量、经过筛选与合成的数据训练小模型，使其在推理与代码等任务上表现接近更大规模模型，适合资源受限场景。
Gemma 产品
Gemma 是 Google 推出的轻量级开放模型系列，以较小参数规模面向研究与开发场景开放权重，强调在单卡或本地环境中即可运行，并提供指令微调版本与配套安全工具。
通义千问 产品
通义千问（Qwen）是阿里巴巴推出的大语言模型系列，覆盖多档参数规模与多模态、代码等 specialization，并以开源权重方式发布多个版本，是中文开源模型生态中使用较广的代表之一。
Mistral 产品
Mistral 是由法国 Mistral AI 推出的开源大语言模型系列，以较小参数量取得接近同期大模型的表现；其 Mixtral 版本采用稀疏混合专家结构，在开源社区被广泛用于本地部署与二次开发。
FLAN 技术
FLAN（Finetuned Language Net）是 Google 用大规模多任务指令集对语言模型进行微调的产物，其 FLAN-T5 变体以开源权重展示了「指令微调带来零样本能力」的普适规律。
开源大模型 概念
开源大模型指公开权重（甚至训练数据）的大语言模型，以 LLaMA、Mistral、Qwen、DeepSeek、GLM 等为代表，推动了私有化部署、社区微调与学术复现，与闭源模型形成双轨生态。
多模态大模型 概念
多模态大模型（MLLM）指能同时理解并处理文本、图像、音频、视频等多种模态的大语言模型，以 GPT-4V、Gemini、Claude 3 为代表，是迈向通用人工智能的重要形态。
长上下文模型 技术
长上下文模型指支持数万至百万级 token 上下文窗口的大语言模型（如 Gemini 1.5 的 100 万 tok、GPT-4 Turbo 的 128K），可一次处理整本书、长会议或代码仓库，是 2024 年大模型竞争的核心维度。
旋转位置编码 技术
旋转位置编码（RoPE）通过把 token 的查询/键向量按位置角度做旋转来编码相对位置信息，兼具相对位置建模与外推能力，是 LLaMA、ChatGLM、PaLM 等主流大模型的标准位置编码方案。
预训练语言模型 概念
预训练语言模型（PLM）指先在无标注大语料上通过自监督目标（MLM/自回归/去噪）训练通用文本表征，再通过微调或提示适配下游任务的模型，代表 BERT、GPT、T5 等。
掩码语言模型 技术
掩码语言模型（MLM）是 BERT 使用的预训练目标：随机遮盖输入中约 15% 的词元，让模型从双向上下文中预测被遮词元，从而学到深度上下文表征。