斯坦福大学深度学习手册整合

UFLDL教程说明：本教程将阐述无监督特征学习和深度学习的主要观点。通过学习，你也将实现多个功能学习/深度学习算法，能看到它们为你工作，并学习如何应用/适应这些想法到新问题上。本教程假定机器学习的基本知识（特别是熟悉的监督学习，逻辑回归，梯度下降的想法），如果你不熟悉这些想法，我们建议你去这里机器学习课程，并先完成第II，III，IV章（到逻辑回归）。稀疏自编码器神经网络Contents[hide]1概述2神经网络模型3中英文对照4中文译者概述以监督学习为例，假设我们有训练样本集，那么神经网络算法能够提供一种复杂且非线性的假设模型，它具有参数，可以以此参数来拟合我们的数据。为了描述神经网络，我们先从最简单的神经网络讲起，这个神经网络仅由一个“神经元”构成，以下即是这个“神经元”的图示：这个“神经元”是一个以及截距为输入值的运算单元，其输出为，其中函数被称为“激活函数”。在本教程中，我们选用sigmoid函数作为激活函数可以看出，这个单一“神经元”的输入－输出映射关系其实就是一个逻辑回归（logisticregression）。虽然本系列教程采用sigmoid函数，但你也可以选择双曲正切函数（tanh）：以下分别是sigmoid及tanh的函数图像函数是sigmoid函数的一种变体，它的取值范围为，而不是sigmoid函数的。注意，与其它地方（包括OpenClassroom公开课以及斯坦福大学CS229课程）不同的是，这里我们不再令。取而代之，我们用单独的参数来表示截距。最后要说明的是，有一个等式我们以后会经常用到：如果选择，也就是sigmoid函数，那么它的导数就是（如果选择tanh函数，那它的导数就是，你可以根据sigmoid（或tanh）函数的定义自行推导这个等式。神经网络模型所谓神经网络就是将许多个单一“神经元”联结在一起，这样，一个“神经元”的输出就可以是另一个“神经元”的输入。例如，下图就是一个简单的神经网络：我们使用圆圈来表示神经网络的输入，标上“”的圆圈被称为偏置节点，也就是截距项。神经网络最左边的一层叫做输入层，最右的一层叫做输出层（本例中，输出层只有一个节点）。中间所有节点组成的一层叫做隐藏层，因为我们不能在训练样本集中观测到它们的值。同时可以看到，以上神经网络的例子中有3个输入单元（偏置单元不计在内），3个隐藏单元及一个输出单元。我们用来表示网络的层数，本例中，我们将第层记为，于是是输入层，输出层是。本例神经网络有参数，其中（下面的式子中用到）是第层第单元与第层第单元之间的联接参数（其实就是连接线上的权重，注意标号顺序），是第层第单元的偏置项。因此在本例中，，。注意，没有其他单元连向偏置单元(即偏置单元没有输入)，因为它们总是输出。同时，我们用表示第层的节点数（偏置单元不计在内）。我们用表示第层第单元的激活值（输出值）。当时，，也就是第个输入值（输入值的第个特征）。对于给定参数集合，我们的神经网络就可以按照函数来计算输出结果。本例神经网络的计算步骤如下：我们用表示第层第单元输入加权和（包括偏置单元），比如，，则。这样我们就可以得到一种更简洁的表示法。这里我们将激活函数扩展为用向量（分量的形式）来表示，即，那么，上面的等式可以更简洁地表示为：我们将上面的计算步骤叫作前向传播。回想一下，之前我们用表示输入层的激活值，那么给定第层的激活值后，第层的激活值就可以按照下面步骤计算得到：将参数矩阵化，使用矩阵－向量运算方式，我们就可以利用线性代数的优势对神经网络进行快速求解。目前为止，我们讨论了一种神经网络，我们也可以构建另一种结构的神经网络（这里结构指的是神经元之间的联接模式），也就是包含多个隐藏层的神经网络。最常见的一个例子是层的神经网络，第层是输入层，第层是输出层，中间的每个层与层紧密相联。这种模式下，要计算神经网络的输出结果，我们可以按照之前描述的等式，按部就班，进行前向传播，逐一计算第层的所有激活值，然后是第层的激活值，以此类推，直到第层。这是一个前馈神经网络的例子，因为这种联接图没有闭环或回路。神经网络也可以有多个输出单元。比如，下面的神经网络有两层隐藏层：及，输出层有两个输出单元。要求解这样的神经网络，需要样本集，其中。如果你想预测的输出是多个的，那这种神经网络很适用。（比如，在医疗诊断应用中，患者的体征指标就可以作为向量的输入值，而不同的输出值可以表示不同的疾病存在与否。）中英文对照neuralnetworks神经网络activationfunction激活函数hyperbolictangent双曲正切函数biasunits偏置项activation激活值forwardpropagation前向传播feedforwardneuralnetwork前馈神经网络(参照Mitchell的《机器学习》的翻译)反向传导算法假设我们有一个固定样本集，它包含个样例。我们可以用批量梯度下降法来求解神经网络。具体来讲，对于单个样例，其代价函数为：这是一个（二分之一的）方差代价函数。给定一个包含个样例的数据集，我们可以定义整体代价函数为：以上公式中的第一项是一个均方差项。第二项是一个规则化项（也叫权重衰减项），其目的是减小权重的幅度，防止过度拟合。[注：通常权重衰减的计算并不使用偏置项，比如我们在的定义中就没有使用。一般来说，将偏置项包含在权重衰减项中只会对最终的神经网络产生很小的影响。如果你在斯坦福选修过CS229（机器学习）课程，或者在YouTube上看过课程视频，你会发现这个权重衰减实际上是课上提到的贝叶斯规则化方法的变种。在贝叶斯规则化方法中，我们将高斯先验概率引入到参数中计算MAP（极大后验）估计（而不是极大似然估计）。]权重衰减参数用于控制公式中两项的相对重要性。在此重申一下这两个复杂函数的含义：是针对单个样例计算得到的方差代价函数；是整体样本代价函数，它包含权重衰减项。以上的代价函数经常被用于分类和回归问题。在分类问题中，我们用或，来代表两种类型的标签（回想一下，这是因为sigmoid激活函数的值域为；如果我们使用双曲正切型激活函数，那么应该选用和作为标签）。对于回归问题，我们首先要变换输出值域（译者注：也就是），以保证其范围为（同样地，如果我们使用双曲正切型激活函数，要使输出值域为）。我们的目标是针对参数和来求其函数的最小值。为了求解神经网络，我们需要将每一个参数和初始化为一个很小的、接近零的随机值（比如说，使用正态分布生成的随机值，其中设置为），之后对目标函数使用诸如批量梯度下降法的最优化算法。因为是一个非凸函数，梯度下降法很可能会收敛到局部最优解；但是在实际应用中，梯度下降法通常能得到令人满意的结果。最后，需要再次强调的是，要将参数进行随机初始化，而不是全部置为。如果所有参数都用相同的值作为初始值，那么所有隐藏层单元最终会得到与输入值有关的、相同的函数（也就是说，对于所有，都会取相同的值，那么对于任何输入都会有：）。随机初始化的目的是使对称失效。梯度下降法中每一次迭代都按照如下公式对参数和进行更新：其中是学习速率。其中关键步骤是计算偏导数。我们现在来讲一下反向传播算法，它是计算偏导数的一种有效方法。我们首先来讲一下如何使用反向传播算法来计算和，这两项是单个样例的代价函数的偏导数。一旦我们求出该偏导数，就可以推导出整体代价函数的偏导数：以上两行公式稍有不同，第一行比第二行多出一项，是因为权重衰减是作用于而不是。反向传播算法的思路如下：给定一个样例，我们首先进行“前向传导”运算，计算出网络中所有的激活值，包括的输出值。之后，针对第层的每一个节点，我们计算出其“残差”，该残差表明了该节点对最终输出值的残差产生了多少影响。对于最终的输出节点，我们可以直接算出网络产生的激活值与实际值之间的差距，我们将这个差距定义为（第层表示输出层）。对于隐藏单元我们如何处理呢？我们将基于节点（译者注：第层节点）残差的加权平均值计算，这些节点以作为输入。下面将给出反向传导算法的细节：1.进行前馈传导计算，利用前向传导公式，得到直到输出层的激活值。2.对于第层（输出层）的每个输出单元，我们根据以下公式计算残差：[译者注：]3.对的各个层，第层的第个节点的残差计算方法如下：{译者注：将上式中的与的关系替换为与的关系，就可以得到：以上逐次从后向前求导的过程即为“反向传导”的本意所在。]4.计算我们需要的偏导数，计算方法如下：最后，我们用矩阵-向量表示法重写以上算法。我们使用“”表示向量乘积运算符（在Matlab或Octave里用“.*”表示，也称作阿达马乘积）。若，则。在上一个教程中我们扩展了的定义，使其包含向量运算，这里我们也对偏导数也做了同样的处理（于是又有）。那么，反向传播算法可表示为以下几个步骤：1.进行前馈传导计算，利用前向传导公式，得到直到输出层的激活值。2.对输出层（第层），计算：3.对于的各层，计算：4.计算最终需要的偏导数值：实现中应注意：在以上的第2步和第3步中，我们需要为每一个值计算其。假设是sigmoid函数，并且我们已经在前向传导运算中得到了。那么，使用我们早先推导出的表达式，就可以计算得到。最后，我们将对梯度下降算法做个全面总结。在下面的伪代码中，是一个与矩阵维度相同的矩阵，是一个与维度相同的向量。注意这里“”是一个矩阵，而不是“与相乘”。下面，我们实现批量梯度下降法中的一次迭代：1.对于所有，令,（设置为全零矩阵或全零向量）2.对于到，a.使用反向传播算法计算和。b.计算。c.计算。3.更新权重参数：现在，我们可以重复梯度下降法的迭代步骤来减小代价函数的值，进而求解我们的神经网络。中英文对照反向传播算法BackpropagationAlgorithm（批量）梯度下降法(batch)gradientdescent（整体）代价函数(overall)costfunction方差squared-error均方差averagesum-of-squareserror规则化项regularizationterm权重衰减weightdecay偏置项biasterms贝叶斯规则化方法Bayesianregularizationmethod高斯先验概率Gaussianprior极大后验估计MAP极大似然估计maximumlikelihoodestimation激活函数activationfunction双曲正切函数tanhfunction非凸函数non-convexfunction隐藏层单元hidden(layer)units对称失效symmetrybreaking学习速率learningrate前向传导forwardpass假设值hypothesis残差errorterm加权平均值weightedaverage前馈传导feedforwardpass阿达马乘积Hadamardproduct前向传播forwardpropagation梯度检验与高级优化众所周知，反向传播算法很难调试得到正确结果，尤其是当实现程序存在很多难于发现的bug时。举例来说，索引的缺位错误（off-by-oneerror）会导致只有部分层的权重得到训练，再比如忘记计算偏置项。这些错误会使你得到一个看似十分合理的结果（但实际上比正确代码的结果要差）。因此，但从计算结果上来看，我们很难发现代码中有什么东西遗漏了。本节中，我们将介绍一种对求导结果进行数值检验的方法，该方法可以验证求导代码是否正确。另外，使用本节所述求导检验方法，可以帮助你提升写正确代码的信心。缺位错误（Off-by-oneerror）举例说明：比如循环中循环次，正确应该是，但有时程序员疏忽，会写成，这就是缺位错误。假设我们想要最小化以为自变量的目标函数。假设，则。在一维的情况下，一次迭代的梯度下降公式是再假设我们已经用代码实现了计算的函数，接着我们使用来实现梯度下降算法。那么我们如何检验的实现是否正确呢？回忆导数的数学定义：那么对于任意值，我们都可以对等式左边的导数用：来近似。实际应用中，我们常将设为一个很小的常量，比如在数量级（虽然的取值范围可以很大，但是我们不会将它设得太小