百科

大模型 · 万物互联 · 人工智能的结构化知识库。人人可阅读、可贡献、可追溯。

学科分类

最新收录

交叉验证 技术

交叉验证把数据划分为多折并轮流作为验证集,用多次平均性能估计模型泛化能力,k 折交叉验证与留一法(LOOCV)是数据有限时模型选型的标准做法。

模型评估 技术

模型评估用统一指标度量模型在新数据上的性能:分类看准确率/精确率/召回/F1/AUC,回归看 MSE/MAE,生成看 BLEU/Rouge,大模型看 MMLU/HumanEval,是模型选择的依据。

数据增强 技术

数据增强通过对原始样本施加等价变换(旋转、裁剪、加噪、回译、Mixup)生成新样本,扩大训练集并提升模型泛化与鲁棒性,是视觉、语音与文本任务的标准技术。

特征工程 概念

特征工程是把原始数据转换为有效预测变量的过程(构造、选择、变换),是传统机器学习性能的关键;深度学习的「表示学习」用自动学特征部分替代了手工特征工程。

优化器 技术

优化器决定参数如何按梯度更新:SGD、Momentum、RMSProp、Adam、AdamW 与 LAMB 等,其选择与超参数(学习率、权重衰减、批大小)深刻影响训练收敛与最终性能。

正则化 技术

正则化通过向目标函数加入约束或随机性降低模型复杂度与过拟合,包括 L1/L2 权重惩罚、Dropout、权重衰减、数据增强与早停,是深度学习训练的标准组成部分。

梯度下降 技术

梯度下降沿损失函数负梯度方向迭代更新参数以最小化损失,是机器学习与深度学习训练的核心优化算法,衍生出随机梯度下降(SGD)、Momentum、Adam 等变体。

KL散度 技术

KL 散度(相对熵)度量一个分布相对另一个分布的信息损失:KL(p‖q)=Σp(x)log(p(x)/q(x)),非对称且非负,广泛用于变分推断、蒸馏与生成模型训练。

交叉熵 技术

交叉熵衡量两个分布之间的差异,定义为 H(p,q)=-Σp(x)log q(x),是分类任务与语言模型训练的标准损失函数,最小化交叉熵等价于最大似然估计。

信息论 概念

信息论由香农 1948 年创立,以熵量化信息量、以互信息量化相关性,为通信、压缩与机器学习(交叉熵、KL 散度)提供了统一数学语言。

概率图模型 技术

概率图模型用图结构表示随机变量间的条件依赖并分解联合概率,分为贝叶斯网络(有向)与马尔可夫网络(无向),是机器学习经典的概率框架,支撑推理与结构化预测。

贝叶斯定理 概念

贝叶斯定理用先验概率与似然计算后验概率,是统计推断、朴素贝叶斯分类与贝叶斯网络的基石,其「先验+数据更新」框架贯穿机器学习与 AI 推理。

搜索算法 技术

搜索算法在解空间(状态空间)中寻找目标解,是 AI 规划、博弈与组合优化的基础,经典算法包括 BFS/DFS、A*、迭代加深与蒙特卡洛树搜索(MCTS)。

知识表示 概念

知识表示是符号 AI 的核心问题:用形式化结构(逻辑、框架、语义网络、本体)把知识编码给计算机,支持存储、检索与推理,是现代知识图谱与专家系统的基础。

人工智能历史 事件

人工智能史从 1956 年达特茅斯会议启程,历经两次「AI 寒冬」,2012 年深度学习与 2022 年生成式大模型带来两次爆发,是理解 AI 技术演进与产业周期的重要脉络。

A

B

C

D

E

F

G

H

I

J

K

L

M

N

O

P

Q

R

S

T

U

V

W

X

Y

Z

#

0.1252s