损失函数是什么？

损失函数也叫代价函数，是用来衡量预测值和真实值之间的误差对模型的影响的。“损失”在我看来就是误差，比如我手里拿了一个尺子，我让你来猜测这个尺子的长度。你猜测是两米，但是实际上是1米，那么你猜测的误差是1米，预测值是真实值的两倍。再来想象一个场景，现在我在地上画了一个圆，让你来猜测它的半径。你猜测是两米，实际上是1米，这个时候误差还是1米，但是你猜测的圆的面积就是我画的圆的4倍了。如果是一个球，你猜测是两米，但实际上是1米，那体积相差就是8倍了... 由此我们可以看出，虽然误差是一样的，但是造成的结果却是不一样的。我们需要用一个公式来计算这种误差所造成的后果，这就是“函数”的含义。这是单个样本点的损失函数，整个模型的损失函数就是将所有的样本点的损失加起来，得到一个总的损失，再除以样本点的个数，得到一个平均损失。

损失函数有什么用？

模型在训练的时候，每训练一次就需要计算一次当前模型的损失。得到了当前模型的损失之后就可以将模型的参数往损失更小的方向去调整。模型损失就是一个指标，用来衡量模型预测的好坏。

常用的一些损失函数：

1.均方误差损失（最小二乘法）

2.log对数损失函数（逻辑回归）

3.Hinge损失函数（SVM）

4.指数损失函数（Adaboost）

5.交叉熵损失（分类）

6.0-1损失（分类）

7.绝对值损失（回归）