深度合成标识 技术
深度合成标识要求 AI 生成的图片、视频、音频等带有可识别标记,中国《深度合成规定》明确标识义务,技术上分可见标识、元数据(C2PA)与模型内嵌水印。
大模型 · 万物互联 · 人工智能的结构化知识库。人人可阅读、可贡献、可追溯。
深度合成标识要求 AI 生成的图片、视频、音频等带有可识别标记,中国《深度合成规定》明确标识义务,技术上分可见标识、元数据(C2PA)与模型内嵌水印。
自动化决策指由算法独立做出对个人有法律或重大影响的决定(信贷、招聘、司法),GDPR 第 22 条赋予被决策者异议权,是 AI 监管与问责的重点场景。
知情同意指数据处理与 AI 应用(人脸识别、数据收集、参与研究)须向用户充分告知并获得自愿同意,是个人信息保护法的基石原则,AI 场景常面临「同意疲劳」与透明度不足。
数据标注伦理关注 AI 训练数据生产中标注员的劳动权益:低薪、重复劳动、有害内容心理创伤,以及标注质量与偏见,是 AI 供应链中被忽视的伦理议题。
模型水印在 AI 模型或生成内容中嵌入可检测的隐秘标识,用于版权溯源、深度伪造追踪与输出归属,分生成内容水印与模型参数水印,是 AI 治理的落地工具。
AI 安全评估在模型发布/应用上线前系统测评其风险:有害内容、越狱、偏见、幻觉、隐私与滥用能力,中国对生成式 AI 要求安全评估,国际上也形成能力评估与红队体系。
AI 对就业的影响是替代与创造并存:自动化替代重复性岗位,同时创造新职业并提升人效,研究显示 AI 影响从蓝领扩展到白领知识工作,需要再培训与社会保障配套。
数字鸿沟指不同群体在数字技术接入、使用与技能上的差距,AI 时代体现为算法红利与风险的分配不均(AI 鸿沟),影响就业、教育与公共服务的公平。
算法问责要求 AI 系统的设计者与部署者对决策结果负责,通过审计、透明度、申诉与责任分配机制实现,是 AI 治理从「原则」走向「机制」的核心。
联合国教科文组织 2021 年通过《人工智能伦理问题建议书》,是全球首部政府间 AI 伦理协议,确立人权、公平、问责与透明度等价值原则,并要求各国建立伦理影响评估机制。
《生成式人工智能服务管理暂行办法》是中国 2023 年发布的首部生成式 AI 专门规章:对面向公众的服务提出备案、内容安全、标识与训练数据合规等要求,2023-08-15 施行。
欧盟《人工智能法案》是世界首部综合性 AI 立法(2024 年通过),按风险分级(禁止/高风险/有限/最小)监管 AI 系统,对高风险系统提出数据、透明、人类监督等强制义务。
内容审核用 AI(文本分类、图像识别、语义模型)自动识别过滤违法与有害内容(色情、暴力、诈骗、政治违规),结合人工复审,是 UGC 平台与生成式 AI 的合规底线。
红队测试用对抗性攻击主动探测 AI 系统的漏洞(越狱、注入、有害输出、偏见),是模型发布前安全评估与持续审计的标准方法。
越狱(Jailbreak)指用精心构造的提示绕过 LLM 的安全对齐,诱导其输出违规内容(角色扮演、编码、假设框架),是红队测试与安全对齐评估的核心对抗场景。