type
status
date
slug
summary
tags
category
icon
password
Property
为了实现复杂的网络，引入了神经网络块的概念。 块(block)可以描述单个层、由多个层组成的组件或整个模型本身。 使用块进行抽象的一个好处是可以将一些块组合成更大的组件， 这一过程通常是递归的，如下图所示。 通过定义代码来按需生成任意复杂度的块， 可以通过简洁的代码实现复杂的神经网络。
从编程的角度来看，块由类(class)表示。 它的任何子类都必须定义一个将其输入转换为输出的前向传播函数，并且必须存储任何必需的参数（有些块不需要参数）。
为了计算梯度，块必须具有反向传播函数。 由于自动微分提供了一些后端实现，所以在定义我们自己的块时，只需要考虑前向传播函数和必需的参数。
回顾一下多层感知机：
生成一个网络，包含一个具有256个单元和ReLU激活函数的全连接隐藏层，然后是一个具有10个隐藏单元且不带激活函数的全连接输出层。
nn.Sequential定义了一种特殊的Module，即在PyTorch中表示一个块的类，它维护了一个由Module组成的有序列表。 注意：两个全连接层都是Linear类的实例， Linear类本身就是Module的子类。 到目前为止，我们一直在通过
net(X)调用模型来获得模型的输出，这实际上是net.__call__(X)的简写，这个前向传播函数非常简单，它将列表中的每个块连接在一起,将每个块的输出作为下一个块的输入。自定义块
在实现自定义块之前，简要总结一下每个块必须提供的基本功能：
- 将输入数据作为其前向传播函数的参数
- 通过前向传播函数来生成输出，输出的形状可能与输入的形状不同
- 计算其输出关于输入的梯度，可通过其反向传播函数进行访问，通常这是自动发生的
- 存储和访问前向传播计算所需的参数
- 根据需要初始化模型参数
下面从零开始编写一个块，
MLP类继承了表示块的类，只需要提供构造函数（__init__函数）和前向传播函数在这个
MLP实现中，两个层都是实例变量。定制的
__init__函数通过super().__init__() 调用父类的__init__函数，省去了重复编写模版代码的痛苦。 然后实例化两个全连接层,，分别为self.hidden和self.out。 除非我们实现一个新的运算符，否则我们不必担心反向传播函数或参数初始化，系统将自动生成这些。块的一个主要优点是它的多功能性。 我们可以子类化块以创建层(如全连接层的类)、 整个模型(如上面的
MLP类)或具有中等复杂度的各种组件。顺序块
Sequential的设计是为了把其他模块串起来，为了构建我们自己的简化的MySequential，只需要定义两个关键函数：- 一种将块逐个追加到列表中的函数
- 一种前向传播函数，用于将输入按追加块的顺序传递给块组成的“链条”
下面的
MySequential类提供了与默认Sequential类相同的功能。__init__函数将每个模块逐个添加到有序字典_modules中。 为什么每个
Module都有一个_modules属性？ 为什么使用它而不是自己定义一个Python列表？ _modules的优点：在模块的参数初始化过程中，系统知道在_modules字典中查找需要初始化参数的子块。当
MySequential的前向传播函数被调用时， 每个添加的块都按照它们被添加的顺序执行，就可以使用MySequential类重新实现多层感知机。在前向传播函数中执行代码
Sequential类使模型构造变得简单， 允许我们组合新的架构，而不必定义自己的类。 然而，并不是所有的架构都是简单的顺序架构。 当需要更强的灵活性时，我们需要定义自己的块。 例如，我们可能希望在前向传播函数中执行Python的控制流。 此外，我们可能希望执行任意的数学运算， 而不是简单地依赖预定义的神经网络层。到目前为止， 我们网络中的所有操作都对网络的激活值及网络的参数起作用。 然而，有时我们可能希望合并既不是上一层的结果也不是可更新参数的项， 我们称之为常数参数。 例如，我们需要一个计算函数 的层， 其中 是输入， 是参数， 是某个在优化过程中没有更新的指定常量。 因此我们实现了一个
FixedHiddenMLP类，如下所示：在这个
FixedHiddenMLP模型中，我们实现了一个隐藏层， 其权重（self.rand_weight）在实例化时被随机初始化，之后为常量。 这个权重不是一个模型参数，因此它永远不会被反向传播更新。 然后神经网络将这个固定层的输出通过一个全连接层。注意，在返回输出之前，模型做了一些不寻常的事情： 它运行了一个while循环，在L1范数大于1的条件下， 将输出向量除以2，直到它满足条件为止。 最后，模型返回了
X中所有项的和。