晶圆与先进制程 概念
AI 芯片依赖先进制程(7nm/5nm/3nm、FinFET/GAA)制造,台积电、三星、中芯国际为代工主力,先进制程与光刻(EUV)成为地缘竞争焦点。
大模型 · 万物互联 · 人工智能的结构化知识库。人人可阅读、可贡献、可追溯。
AI 芯片依赖先进制程(7nm/5nm/3nm、FinFET/GAA)制造,台积电、三星、中芯国际为代工主力,先进制程与光刻(EUV)成为地缘竞争焦点。
算力调度是管理 GPU 资源分配的系统层能力:任务排队、优先级、弹性扩缩容与断点恢复,主流工具包括 Kubernetes(+GPU 插件)、Slurm、Ray 与 Volcano,决定集群利用效率。
大模型训练集群是专为 LLM 预训练设计的算力系统:数千至十万卡 GPU/TPU + 高速互联 + 并行框架 + 断点续训,MFU 与稳定性(MTTF)是核心指标。
自动驾驶芯片为车载域控制器提供高算力 AI 推理(感知/决策),NVIDIA Orin/Thor、特斯拉 FSD 芯片、地平线征程、Mobileye EyeQ 为代表,需满足车规级功能安全。
边缘 AI 芯片面向摄像头、机器人、车载等低功耗实时推理场景,如英伟达 Jetson、瑞芯微 RK 系列、地平线征程,以 TOPS/W 能效为核心指标。
数据中心 GPU 是面向云端与集群的 AI 加速卡(A100/H100/B200、MI300X),配 HBM、NVLink 与虚拟化,是大模型训练与云推理的主力硬件。
Tensor Core 是 NVIDIA 自 Volta(2017)起内置的矩阵乘法加速单元,支持 FP16/BF16/INT8/FP8 混精度,是大模型训练(约数倍加速)与推理的核心硬件特性。
ASIC 是为特定算法定制的芯片,能效与吞吐远超通用芯片,TPU、NPU、挖矿芯片均为 ASIC,但开发周期长、灵活性差,适合算法定型后的规模化部署。
Chiplet 把大芯片拆成多个小芯粒(die)经 2.5D/3D 封装互连,提升良率与复用性,AMD、NVIDIA、英特尔均采用,是中国突破先进制程封锁的重要路线。
HBM 是 AI 芯片的关键存储:通过 3D 堆叠 DRAM 与硅中介层提供超高带宽(H100 达 3.35TB/s),缓解「内存墙」,NVIDIA H100/B200 与 AMD MI 系列均搭载。
美国 2022-2025 年多次升级对华 AI 芯片出口管制(A100/H100 及后续限制、算力密度规则),重塑全球 AI 算力格局,推动中国国产芯片(华为昇腾、寒武纪等)加速替代。
液冷用液体(冷板/浸没式)替代风冷带走 AI 芯片热量,解决高功耗 GPU/TPU 的散热与能耗(PUE)问题,是智算中心与 H100/H200 级集群的标准配置。
算力租赁按需提供 GPU/NPU 算力(云主机、裸金属、按卡时/按 token),降低企业自建成本,云厂商(AWS、阿里云)与算力交易平台为主要供给方,是 AI 创业的算力入口。
冯·诺依曼瓶颈指「存储与计算分离」架构下数据搬运开销超过计算本身的现象,AI 大模型的访存密集特性使其尤为严重,催生近存计算、存算一体与 HBM 等应对。
推理加速通过量化、剪枝、编译优化(TensorRT、vLLM、llama.cpp)、批处理与 KV 缓存复用等手段降低 LLM 推理延迟与成本,是大模型规模化服务的核心工程。