大语言模型

大语言模型词条

思维链 技术

思维链是一种通过让模型逐步推理来提升复杂任务表现的提示技术。

上下文学习 概念

上下文学习指大语言模型无需更新参数,仅凭提示中的示例即可完成新任务的能力。

RLHF 技术

RLHF 是利用人类偏好反馈训练奖励模型并用强化学习优化语言模型的对齐方法。

指令微调 技术

指令微调是在预训练模型上使用(指令, 回答)数据继续训练,以增强遵循指令能力的方法。

注意力机制 技术

注意力机制是一种让模型在处理序列时动态聚焦于关键信息的神经网络方法。

BERT 技术

BERT 是 Google 提出的基于 Transformer 编码器的双向预训练语言模型。

Transformer 技术

Transformer 是基于自注意力机制的神经网络架构,是现代大语言模型的基石。

LLaMA 技术

LLaMA 是 Meta 开源的一系列高效基础大语言模型家族。

GPT-3 技术

GPT-3 是 OpenAI 于 2020 年发布的拥有 1750 亿参数的自回归大语言模型。

ChatGPT 产品

ChatGPT 是 OpenAI 基于大语言模型构建的对话式人工智能产品。

GPT-4 产品

GPT-4 是 OpenAI 于 2023 年发布的第四代生成式多模态大语言模型。