AI 开始在硬件里自己学习
当前，AI 硬件的竞争正在从“谁能更快推理”进入“谁能直接在物理硬件里训练”。
过去我们谈 AI 芯片，重点通常是推理加速。模型在 GPU 或服务器里训练好，再把权重搬到专用硬件上运行。这个流程能加速计算，却没有真正解决一个更深的问题：训练本身仍然依赖数字存储、数字计算和大量数据搬运。
现在我们需要重新看待“硬件智能”四个字。真正有想象力的方向，不是把训练好的模型塞进芯片，而是让芯片里的物理器件直接参与学习。
一，我看到的核心变化
传统计算架构最大的问题，是存储和计算分离。神经网络训练时，权重、激活值、误差信号和梯度要在存储单元与处理单元之间频繁搬运。模型越大，这种搬运越昂贵。
类脑计算和存内计算想解决的，就是把权重放在物理器件里，让矩阵向量乘法直接在阵列中完成。权重可以用器件电导表示，计算可以通过电流、电压自然完成。
但训练比推理更难。推理只要把输入乘上权重即可；训练还要知道每个权重对误差贡献了多少，也就是反向传播中的梯度。多层网络尤其麻烦，因为中间激活和局部误差通常要被存起来。
我觉得最漂亮的想法，是把“存梯度”改成“边传播边更新”。
二，progressive gradient descent 好在哪里？
可以把它理解成一种逐层更新策略。
传统反向传播更像先把所有梯度算好、存好，再一起更新权重。放在软件里没问题，内存够、精度高、控制方便；但放进模拟硬件里，就会引入额
