Transformer 技术 EN：Transformer 别名：变换器、自注意力模型 发布：2026-08-13 浏览：0 收藏 摘要 Transformer 是基于自注意力机制的神经网络架构，是现代大语言模型的基石。 展开▾ 概述Transformer 由 Vaswani 等人在 2017 年论文《Attention Is All You Need》中提出，摒弃循环结构，完全依赖自注意力捕捉序列全局依赖。 齐e慧享 影响其可并行训练与强表达能力使其成为自然语言处理、计算机视觉与多模态模型的主流骨干架构。 齐e慧享 参考资料 [1] Attention Is All You Need 神经网络 自注意力 seq2seq 深度学习 相关词条 GPT-3 BERT 视觉Transformer 大语言模型 注意力机制 FlashAttention 奖励模型 重要性采样 注意力机制 自然语言处理 计算机视觉 多模态大模型 发现内容有误或想补充资料？ 贡献新词条 词条编辑指南 我要投稿（进入审核）