2026.04.10 4 min read AI深度学习 Attention Residuals：用注意力机制重塑残差连接 介绍 AttnRes 的核心思路：用 softmax 注意力选择历史层信息，区分 Full 与 Block 两种实现，并概述其在隐状态膨胀、信息稀释和工程开销方面的设计。