• 使用各种算法(例如BFGS，Nelder-Mead单纯形，牛顿共轭梯度，COBYLA或SLSQP)的无约束和约束最小化多元标量函数(minimize())

• 全局(蛮力)优化程序(例如，anneal()，basinhopping())

• 最小二乘最小化(leastsq())和曲线拟合(curve_fit())算法

• 标量单变量函数最小化(minim_scalar())和根查找(newton())

• 使用多种算法(例如，Powell，Levenberg-Marquardt混合或Newton-Krylov等大规模方法)的多元方程系统求解(root)

scipy.optimize.brent()求解单变量无约束优化问题

• func: callable f(x,*args)　目标函数 ，以函数形式表示，可以通过 *args 传递参数

• args: tuple　可选项，以 f(x,*args) 的形式将可变参数p传递给目标函数

• brack: tuple　可选项，搜索算法的开始区间（不是指的上下限）

• xmin: 　返回函数达到最小值时的（注意是局部最优，不一定是全局最优）

• fval: 　返回函数的最优值（默认不返回，仅当full_output为1时返回）

scipy.optimize.fmin()求解多变量无约束优化问题

• func: callable f(x,*args)　目标函数 ，以函数形式表示，可以通过 *args 传递参数

• x0: nadarray　搜索算法的初值

• args: tuple　可选项，以 f(x,*args) 的形式将可变参数 p 传递给目标函数

• xopt: 　返回最小值时的 x 值。

• fopt: 　返回最小值时的目标函数值，fopt=func(xopt)

scipy.optimize.minimize() 求解优化问题

• fun: callable f(x,*args)　目标函数 ，以函数形式表示，可以通过 *args 传递参数。

• x0: nadarray, shape(n,)　搜索算法的初值，n 是决策变量个数。

• args: tuple　可选项，将可变参数传递给目标函数 fun、导数函数 jac 和二阶导数函数 hess。

• method: str　可选项，选择优化算法。默认算法为 BFGS, L-BFGS-B, SLSQP（取决于问题有没有边界条件和约束条件）

• jac: 　可选项，梯度计算方法。可以以函数形式表示，或选择 '2-point', '3-point', 'cs'。该选项只能用于 CG, BFGS, Newton-CG, L-BFGS-B, TNC, SLSQP, dogleg, trust-ncg, trust-krylov, trust-exact 和 trust-constr 算法。

• hess: 　可选项，Hessian 矩阵计算方法。可以以函数形式表示，或选择 '2-point', '3-point', 'cs'。该选项只能用于 Newton-CG, dogleg, trust-ncg, trust-krylov, trust-exact 和 trust-constr 算法。

• bounds: 　可选项，变量的边界条件（上下限，lb<=x<=ub）。该选项只能用于 Nelder-Mead, L-BFGS-B, TNC, SLSQP, Powell 和 trust-constr 算法。

• constraints: 　可选项，定义约束条件 f(x)>=0。该选项只能用于 COBYLA, SLSQP 和 trust-constr 算法，注意不同算法中对于约束条件的定义是不同的。

• method=‘CG’ ：　非线性共轭梯度算法，只能处理无约束优化问题，需要使用一阶导数函数。

• method=‘BFGS’ ：　BFGS 拟牛顿法，只能处理无约束优化问题，需要使用一阶导数函数。BFGS 算法性能良好，是无约束优化问题的默认算法。

• method=‘Newton-CG’ ：　截断牛顿法，只能处理无约束优化问题，需要使用一阶导数函数，适合处理大规模问题。

• method=‘dogleg’ ：　dog-leg 信赖域算法，需要使用梯度和 Hessian（必须正定），只能处理无约束优化问题，

• method=‘trust-ncg’ ：　采用牛顿共轭梯度信赖域算法，需要使用梯度和 Hessian（必须正定），只能处理无约束优化问题，适合大规模问题。

• method=‘trust-exact’：　求解无约束极小化问题的信赖域方法，需要梯度和Hessian（不需要正定）。

• method=‘trust-krylov’：　使用Newton-GLTR 信赖域算法度，需要使用梯度和 Hessian（必须正定），只能处理无约束优化问题，适合中大规模问题。

• method=‘Nelder-Mead’：　下山单纯性法，可以处理边界约束条件（决策变量的上下限），只使用目标函数，不使用导数函数、二阶导数，鲁棒性强。

• method=‘L-BFGS-B’ ：　改进的 BFGS 拟牛顿法，L- 指有限内存，-B 指边界约束，可以处理边界约束条件，需要使用一阶导数函数。L-BFGS_B 算法性能良好，消耗内存量很小，适合处理大规模问题，是边界约束优化问题的默认算法。

• method=‘Powell’：　改进的共轭方向法，可以处理边界约束条件（决策变量的上下限）。

• method=‘TNC’ ：　截断牛顿法，可以处理边界约束条件

• method=‘COBYLA’ ：　线性近似约束优化方法，通过对目标函数和约束条件的线性逼近处理非线性问题。只使用目标函数，不需要导数或二阶导数值，可以处理约束条件。

• method=‘SLSQP’ ：　序贯最小二乘规划算法，可以处理边界约束、等式约束和不等式约束条件。SLSQP 算法性能良好，是带有约束条件优化问题的默认算法。

• method=‘trust-constr’ ：　信赖域算法，通用的约束最优化方法，适合处理大规模问题。

scipy.optimize.minimize - SciPy v1.8.0 Manual

Minimization of scalar function of one or more variables. Parameters The objective function to be minimized. where is an 1-D array with shape (n,) and is a tuple of the fixed parameters needed to completely specify the function. Initial guess. Array of real elements of size (n,), where is the number of independent variables.

https://docs.scipy.org/doc/scipy/reference/generated/scipy.optimize.minimize.html#scipy.optimize.minimize

线性规划

最小二乘

求根。