人工智能之数学基础:线性回归算法的矩阵参数求导
本文重点
前面我们已经学习了标量对矩阵的求导,在机器学习和深度学习中损失一定是标量,所以我们本文看一下简单的线性回归算法是如何进行矩阵参数求导的,没看上一篇文章的,先看上一篇文章,不然你不懂什么是微分工具,什么是tr工具。
使用工具
微分运算工具
tr工具
线性回归算法的推导
注意下面公式中x是m*n的矩阵,表示有m个样本,而w是一个n*1的向量,表示每个样本有n个特征,y是一个m*1的向量,表示m个向量的输出
前面我们已经学习了标量对矩阵的求导,在机器学习和深度学习中损失一定是标量,所以我们本文看一下简单的线性回归算法是如何进行矩阵参数求导的,没看上一篇文章的,先看上一篇文章,不然你不懂什么是微分工具,什么是tr工具。
微分运算工具
tr工具
注意下面公式中x是m*n的矩阵,表示有m个样本,而w是一个n*1的向量,表示每个样本有n个特征,y是一个m*1的向量,表示m个向量的输出