AI 芯片进化史始于 2012 年 AlexNet 用两块 NVIDIA GTX 580 GPU 在 ImageNet 上一举夺冠，经历 GPU 加装 Tensor Core、Google TPU 等 ASIC 专用加速，正迈向存算一体架构。每一步的目标都是突破冯·诺依曼瓶颈，在算力和能效上实现量级跃升。
GPU 时代：AI 计算的启蒙者
AI 芯片的发展始于 GPU 的意外崛起。2012 年，Alex Krizhevsky 使用两块 NVIDIA GTX 580 GPU 训练了 AlexNet，在 ImageNet 竞赛中大幅超越传统方法，开启了深度学习时代。GPU 原本为图形渲染设计的 SIMT（单指令多线程）架构意外地完美适配了神经网络训练所需的矩阵乘法运算。NVIDIA 敏锐地抓住了这一机遇，从 Kepler 架构开始逐步加入张量核心（Tensor Core）等 AI 专用单元。
2020 年发布的 NVIDIA A100 搭载了 6912 个 CUDA 核心和 432 个 Tensor Core，FP16 算力达到 312 TFLOPS。2022 年的 H100 引入了 Transformer 引擎和 FP8 精度，进一步将大模型训练效率提升了 6 倍。GPU 通过在通用性和专用性之间的巧妙平衡，至今仍是 AI 训练和推理的主力硬件。然而，GPU 的高功耗（H100 TDP 达 700W）和高成本催生了对专用 AI 芯片的迫切需求。
ASIC 与 NPU：专用计算的崛起
专用集成电路（ASIC）为 AI 计算提供了比 GPU 更高的能效比。Google 的 TPU（张量处理单元）是 ASIC 路线的标志性产品。TPU v4 采用了 MXU（矩阵乘法单元）阵列，在推理任务中实现了比同期 GPU 数倍的能效提升。TPU 的成功证明了以特定精度（bfloat16）和大规模脉动阵列（Systolic Array）为核心的专用架构的优势。
在中国市场，华为昇腾（Ascend）系列、寒武纪思元系列和地平线征程系列等 AI 芯片也在加速追赶。昇腾 910B 在训练性能上已接近 A100 水平，而寒武纪的 MLU370 在推理场景展现了优秀的能效比。苹果的 M 系列芯片（M1/M2/M3）则通过统一内存架构和 Neural Engine 将 AI 加速集成到消费级 SoC 中，实现了令人印象深刻的端侧 AI 性能。
存算一体与未来架构探索
传统冯·诺依曼架构中，处理器和存储器之间的数据传输瓶颈（即「存储墙」）已经成为 AI 计算的主要限制。存算一体（Computing-in-Memory，CIM）技术通过在存储单元内部直接执行计算，消除了数据搬移的开销。基于新型非易失性存储器（如 RRAM、MRAM 和 PCM）的存算一体芯片在神经网络推理任务中展现了巨大的能效优势，可比传统架构降低 2-3 个数量级的功耗。
光学计算、量子计算和类脑计算等颠覆性技术也在探索中。光学 AI 芯片利用光子干涉实现高速矩阵运算，有望将算力提升到新的量级。类脑计算则模仿生物神经元的脉冲发放机制，追求极致的能效比。尽管这些技术距离大规模商用仍有距离，但它们代表了 AI 芯片从「计算为中心」向「数据为中心」转变的根本趋势。
37020202001687