机器学习算法（二十四）：启发式算法优化机器学习算法

一、数学优化

数学优化是寻找最大化（或最小化）函数输出的最佳输入集的过程。在优化领域，被优化的函数称为目标函数。存在大量用于解决优化问题的开箱即用工具，尽管这些工具仅适用于表现良好的函数，也称为凸函数。行为良好的函数包含一个最优值，无论是最大值还是最小值。在这里，我们可以将函数视为具有单个山谷（最小）和/或山丘（最大）的表面。因此，非凸函数就像具有多个山谷和丘陵的表面。

凸函数的优化，也称为凸优化，适用于简单的任务，例如投资组合优化、航班调度、开发最佳广告和机器学习。在机器学习的背景下，凸优化在训练几种机器学习模型时起作用，包括线性回归、逻辑回归和支持向量机。

凸优化的一个限制是它假设目标函数保证有一个山谷和/或山

文章来源: chuanchuan.blog.csdn.net，作者：川川菜鸟，版权归原作者所有，如需转载，请联系作者。

原文链接：chuanchuan.blog.csdn.net/article/details/126414255