BFGS

释义 Definition

BFGS：一种常用的数值优化算法，属于拟牛顿法（Quasi-Newton method）。它在迭代过程中用梯度信息逐步近似目标函数的海森矩阵（Hessian）或其逆，从而在不显式计算二阶导数的情况下，高效地求解无约束最优化问题。

例句 Examples

We used BFGS to minimize the loss function.
我们使用 BFGS 来最小化损失函数。

Because the objective is smooth but the Hessian is expensive to compute, the engineer chose BFGS with a line search to get fast convergence.
由于目标函数很光滑但计算海森矩阵代价很高，工程师选择了带线搜索的 BFGS 来获得更快的收敛。

发音 Pronunciation (IPA)

/ˌbiː ɛf dʒiː ɛs/

词源 Etymology

BFGS 是四位研究者姓氏首字母的缩写：Broyden、Fletcher、Goldfarb、Shanno。该方法在 20 世纪 60–70 年代发展成熟，成为数值优化中最经典、最常用的拟牛顿更新公式之一。

相关词 Related Words

• Optimization
• Quasi-Newton
• Gradient
• Hessian
• Line Search
• L-BFGS
• Convergence
• Objective Function

文学与名著用例 Literary Works

• Numerical Optimization（Jorge Nocedal, Stephen J. Wright）——系统讲解 BFGS 与 L-BFGS，并给出理论与实践细节。
• Practical Methods of Optimization（R. Fletcher）——经典优化教材，包含拟牛顿法与 BFGS 更新的讨论。
• Numerical Recipes（Press 等）——在数值计算/优化章节中介绍与使用拟牛顿类方法（常提及 BFGS 及相关变体）。