PyTorch神经网络工具箱(神经网络核心组件)
神经网络核心组件
神经网络看起来很复杂,节点很多,层数多,参数更多。但核心部分或组件不多,把
这些组件确定后,这个神经网络基本就确定了。这些核心组件包括:
1)层:神经网络的基本结构,将输入张量转换为输出张量。
2)模型:层构成的网络。
3)损失函数:参数学习的目标函数,通过最小化损失函数来学习各种参数。
4)优化器:如何使损失函数最小,这就涉及优化器。
当然这些核心组件不是独立的,它们之间,以及它们与神经网络其他组件之间有密切
关系。为便于读者理解,我们可以把这些关键组件及相互关系,用图3-1表示。
多个层链接在一起构成一个模型或网络,输入数据通过这个模型转换为预测值,然后
损失函数把预测值与真实值进行比较,得到损失值(损失值可以是距离、概率值等),该
损失值用于衡量预测值与目标结果的匹配或相似程度,优化器利用损失值更新权重参数,从而使损失值越来越小。这是一个循环过程,当损失值达到一个阀值或循环次数到达指定
次数,循环结束。
接下来利用PyTorch的nn工具箱,构建一个神经网络实例。nn中对这些组件都有现成
包或类,可以直接使用,非常方便。