百科

大模型 · 万物互联 · 人工智能的结构化知识库。人人可阅读、可贡献、可追溯。

学科分类

最新收录

深度合成标识 技术

深度合成标识要求 AI 生成的图片、视频、音频等带有可识别标记,中国《深度合成规定》明确标识义务,技术上分可见标识、元数据(C2PA)与模型内嵌水印。

自动化决策 概念

自动化决策指由算法独立做出对个人有法律或重大影响的决定(信贷、招聘、司法),GDPR 第 22 条赋予被决策者异议权,是 AI 监管与问责的重点场景。

知情同意 概念

知情同意指数据处理与 AI 应用(人脸识别、数据收集、参与研究)须向用户充分告知并获得自愿同意,是个人信息保护法的基石原则,AI 场景常面临「同意疲劳」与透明度不足。

数据标注伦理 概念

数据标注伦理关注 AI 训练数据生产中标注员的劳动权益:低薪、重复劳动、有害内容心理创伤,以及标注质量与偏见,是 AI 供应链中被忽视的伦理议题。

模型水印 技术

模型水印在 AI 模型或生成内容中嵌入可检测的隐秘标识,用于版权溯源、深度伪造追踪与输出归属,分生成内容水印与模型参数水印,是 AI 治理的落地工具。

人工智能安全评估 技术

AI 安全评估在模型发布/应用上线前系统测评其风险:有害内容、越狱、偏见、幻觉、隐私与滥用能力,中国对生成式 AI 要求安全评估,国际上也形成能力评估与红队体系。

就业影响 概念

AI 对就业的影响是替代与创造并存:自动化替代重复性岗位,同时创造新职业并提升人效,研究显示 AI 影响从蓝领扩展到白领知识工作,需要再培训与社会保障配套。

数字鸿沟 概念

数字鸿沟指不同群体在数字技术接入、使用与技能上的差距,AI 时代体现为算法红利与风险的分配不均(AI 鸿沟),影响就业、教育与公共服务的公平。

算法问责 概念

算法问责要求 AI 系统的设计者与部署者对决策结果负责,通过审计、透明度、申诉与责任分配机制实现,是 AI 治理从「原则」走向「机制」的核心。

教科文组织AI伦理建议书 事件

联合国教科文组织 2021 年通过《人工智能伦理问题建议书》,是全球首部政府间 AI 伦理协议,确立人权、公平、问责与透明度等价值原则,并要求各国建立伦理影响评估机制。

生成式人工智能服务管理暂行办法 事件

《生成式人工智能服务管理暂行办法》是中国 2023 年发布的首部生成式 AI 专门规章:对面向公众的服务提出备案、内容安全、标识与训练数据合规等要求,2023-08-15 施行。

人工智能法案(欧盟) 事件

欧盟《人工智能法案》是世界首部综合性 AI 立法(2024 年通过),按风险分级(禁止/高风险/有限/最小)监管 AI 系统,对高风险系统提出数据、透明、人类监督等强制义务。

内容审核 技术

内容审核用 AI(文本分类、图像识别、语义模型)自动识别过滤违法与有害内容(色情、暴力、诈骗、政治违规),结合人工复审,是 UGC 平台与生成式 AI 的合规底线。

红队测试 技术

红队测试用对抗性攻击主动探测 AI 系统的漏洞(越狱、注入、有害输出、偏见),是模型发布前安全评估与持续审计的标准方法。

越狱 技术

越狱(Jailbreak)指用精心构造的提示绕过 LLM 的安全对齐,诱导其输出违规内容(角色扮演、编码、假设框架),是红队测试与安全对齐评估的核心对抗场景。

A

B

C

D

E

F

G

H

I

J

K

L

M

N

O

P

Q

R

S

T

U

V

W

X

Y

Z

#

0.1184s