四个基本方程的证明（自选章节）

首先证明方程（BP1），该方程给出了输出错误量的表达式。首先回想一下定义

应用链式法则, 我们可以把上述偏导数改写成带有输出激活值的偏导数形式，

这里的求和是对于输出层的所有神经元而言的。当时，第个神经元的输出激活 只依赖于对第个神经元的输入。并且当时， 项为零。因此我们可以简化上面的方程为

证得 (BP1)中的一项。

接下来我们再证 (BP2)，它根据后一层的错误量来计算当前层。为了证明该等式，我们先依据改写一下等式。应用链式法则，

在最后一行，我们交换了下表达式右侧的两项，并代入了 的定义。为了计算最后一行的第一项，我们注意到

代回 (42) 我们得到

证得 (BP2)中的一项。

最后两个方程（BP3）和（BP4）的证明，类似于前两个方程以上的证明方式，也依赖链式法则。证明作为练习。