line search(线搜索):数值优化中的一种方法,用来在给定的搜索方向上,寻找合适的步长(step size),以使目标函数值充分下降(或满足某些条件,如 Armijo/Wolfe 条件)。常见于梯度下降、牛顿法、拟牛顿法等算法中。
/laɪn sɝːtʃ/
We use a line search to choose the step size for gradient descent.
我们用线搜索来为梯度下降选择步长。
In quasi-Newton methods, an inexact line search often balances fast progress with numerical stability.
在拟牛顿方法中,不精确线搜索常常在快速推进与数值稳定性之间取得平衡。
“line” 指在一个方向上形成的一条“线”(即沿某个向量方向的一维路径),而 “search” 指“搜索/寻找”。合起来表示:把多维优化问题暂时化为沿某一方向的一维搜索,从而寻找合适的步长。