Linear
线性变换层:
其中,
为输入的 Tensor,
和
分别为权重和偏置。
Linear 层只接受一个 Tensor 的输入。 Linear 层将输入 Tensor 与权重矩阵 WW 相乘,然后生成形状为 [N,∗,outputdim][N,∗,outputdim] 的输出张量, 其中 NN 是批量大小,∗∗ 表示任意数量的附加尺寸。 如果 bias_attr 不是 None,则将创建一个 bias 变量并将其添加到输出中。 最后,如果激活 act 不是 None,则相应激活函数也将应用于输出上。
参数:
output_dim (int) – 线性变换层输出单元的数目。
bias_attr (ParamAttr, 可选) – 指定偏置参数属性的对象,若 bias_attr 为bool类型,如果设置为False,表示不会为该层添加偏置;如果设置为True,表示使用默认的偏置参数属性。默认值为None,表示使用默认的偏置参数属性。默认的偏置参数属性将偏置参数的初始值设为0。具体用法请参见 ParamAttr 。
dtype (str, 可选) – 权重的数据类型,可以为float32或float64。默认为float32。
返回:无
代码示例
weight
本层的可学习参数,类型为
bias
本层的可学习偏置,类型为 Parameter