【数之道 05】走进神经网络模型、机器学习的世界
神经网络
- 神经网络（ANN）
- 神经网络基础
- 激活函数
- 神经网络如何通过训练提高预测准确度
- 逆向参数调整法 （BackPropagation）
- 梯度下降法
- 链式法则
- 增加一层
b站视频连接
神经网络（ANN）
最简单的例子，视频的推送，就是神经网络作用的结果
神经网络基础
人造神经元是整个网络系统的最小单位，不同神经元按照权重不同连接
输入层：起到传递数据的作用
隐藏层：部分神经元被激活，这里涉及到激活函数，根据相应权重流入输出层
输出层：神经元根据激活函数产生最终的输出值
激活函数
拿其中一个神经元来说，信号强度是由之前的加权和决定，激活函数将输入信号转换成该神经元的输出值
这里如果激活函数为分段函数，输出值会产生突变 0突变为1
为了平滑神经元输出值，选择不同的激活函数
神经网络如何通过训练提高预测准确度
逆向参数调整法 （BackPropagation）
训练的结果是不断调整w1,w2，让Y,E集合的误差平方和最小
具体调整过程中需要借助
- 梯度下降法
- 链式法则
梯度下降法
核心：
为了求得误差平方和的最小值，将w从初始值逐渐移动到s(w)导数为0处
每次移动的幅度由s,w的导数和学习系数常数值eta决定
这里导数为正时，步幅为负
这里学习系数太小了学习速度慢，太大了可能会跳过极值点
链式法则
这里对s,w的求导过程中需要使用链式法则
增加一层
依然可以套用之前的结果
