凸函数与损失函数

如下图，如果损失函数「就像这个碗，它又大又圆」，那么我们很容易就能发现，这个损失函数的最低点有且只有一个，就是碗底。

这是 Deeplearning.ai 课程中出现的碗，其中 J(w, b) 是逻辑回归（Logistic Regression）的损失函数，这里假设只有两个参数 w 和 b，纵轴是 J(w, b) 的值。很容易发现，这个碗的最优解就在碗底。

粗略的说，这种长得像碗的函数就是凸函数。

凸函数是数学中的一个重要概念，它描述了一种特殊的函数曲线形状。凸函数指的是在其定义域内，任意两点的连线上的值都不小于函数在这两点上的值的函数。