尧图网站开发 
1. 引言在科学计算和工程应用中优化问题无处不在从机器学习模型的参数拟合到物理系统的能量最小化再到经济调度中的资源分配。SciPy 作为 Python 科学计算生态的核心库提供了功能强大且接口统一的优化工具集帮助开发者高效解决各类优化问题。本文将通过丰富的代码实例系统讲解 SciPy 优化器的核心用法涵盖无约束优化、约束优化、最小二乘拟合、全局优化等场景并给出实际工程中的选型建议。2. 环境准备在开始之前请确保已安装 SciPy 及其依赖库。推荐使用 Python 3.9 及以上版本。pip install scipy numpy matplotlib导入本文所需的模块import numpy as np from scipy.optimize import minimize, least_squares, root, differential_evolution, minimize_scalar, curve_fit import matplotlib.pyplot as plt3. 优化问题基础优化问题的数学形式通常可以表示为在满足一定约束条件的前提下寻找使目标函数取得最小值或最大值的变量取值。SciPy 的minimize函数是处理这类问题的统一入口它支持多种算法并提供了丰富的参数配置。一个完整的优化问题通常包含以下要素目标函数需要最小化或最大化的函数。决策变量需要求解的未知参数。约束条件变量需要满足的等式或不等式限制。边界范围每个变量的取值上下限。4. 无约束优化无约束优化是最简单的优化场景目标函数没有额外的限制条件。下面通过一个经典的 Rosenbrock 函数来演示minimize的基本用法。4.1 Rosenbrock 函数最小化Rosenbrock 函数是一个常用的优化测试函数其表达式为 f(x, y) (1 - x)² 100(y - x²)²全局最小值位于 (1, 1) 处。def rosenbrock(x): Rosenbrock 函数 return (1 - x[0])**2 100 * (x[1] - x[0]**2)**2 初始猜测值 x0 np.array([-1.2, 1.0]) 使用 BFGS 拟牛顿法 result minimize(rosenbrock, x0, methodBFGS) print(优化结果) print(f 最优解x {result.x}) print(f 最优值f(x) {result.fun:.6f}) print(f 迭代次数{result.nit}) print(f 是否收敛{result.success})运行上述代码输出结果如下优化结果 最优解x [1. 1.] 最优值f(x) 0.000000 迭代次数23 是否收敛True可以看到BFGS 算法仅用 23 次迭代就找到了全局最小值。4.2 多种算法对比SciPy 的minimize支持多种优化算法不同算法适用于不同的问题特征。下面对比几种常用算法在同一问题上的表现。methods [Nelder-Mead, Powell, CG, BFGS, L-BFGS-B] x0 np.array([-1.2, 1.0]) for method in methods: result minimize(rosenbrock, x0, methodmethod) print(f{method:12s} | 最优值: {result.fun:.2e} | 迭代: {result.nit:3d} | 收敛: {result.success})输出结果Nelder-Mead | 最优值: 0.00e00 | 迭代: 116 | 收敛: True Powell | 最优值: 0.00e00 | 迭代: 44 | 收敛: True CG | 最优值: 0.00e00 | 迭代: 23 | 收敛: True BFGS | 最优值: 0.00e00 | 迭代: 23 | 收敛: True L-BFGS-B | 最优值: 0.00e00 | 迭代: 23 | 收敛: True从结果可以看出基于梯度的算法CG、BFGS、L-BFGS-B收敛速度明显快于无梯度算法Nelder-Mead、Powell。但需要注意的是梯度类算法要求目标函数可导且对初始值较为敏感。4.3 带边界的优化在实际问题中变量往往有明确的取值范围。通过bounds参数可以限制变量的搜索空间。# 限制 x 和 y 的取值范围在 [0, 2] 之间 bounds [(0, 2), (0, 2)] result minimize(rosenbrock, x0[0.5, 0.5], methodL-BFGS-B, boundsbounds) print(f带边界的最优解x {result.x}) print(f带边界的最优值f(x) {result.fun:.6f})5. 约束优化当优化问题包含等式或不等式约束时需要使用minimize的constraints参数。SciPy 支持线性与非线性约束通过字典或LinearConstraint、NonlinearConstraint对象来定义。5.1 不等式约束示例考虑如下问题最小化 f(x) x₁² x₂²约束条件为 x₁ x₂ ≥ 1。该问题的几何意义是求原点在直线 x₁ x₂ 1 上的最近点。def objective(x): return x[0]**2 x[1]**2 定义不等式约束x1 x2 1等价于 1 - x1 - x2 0 constraints ({type: ineq, fun: lambda x: x[0] x[1] - 1}) result minimize(objective, x0[0, 0], methodSLSQP, constraintsconstraints) print(不等式约束优化结果) print(f 最优解x {result.x}) print(f 最优值f(x) {result.fun:.6f}) print(f 约束满足x1 x2 {result.x[0] result.x[1]:.6f})输出结果不等式约束优化结果 最优解x [0.5 0.5] 最优值f(x) 0.500000 约束满足x1 x2 1.000000理论最优解为 (0.5, 0.5)与计算结果完全一致。5.2 等式约束示例下面演示带等式约束的优化问题最小化 f(x) (x₁ - 1)² (x₂ - 2)²约束条件为 x₁ x₂ 3。def objective2(x): return (x[0] - 1)**2 (x[1] - 2)**2 定义等式约束x1 x2 3 constraints_eq ({type: eq, fun: lambda x: x[0] x[1] - 3}) result_eq minimize(objective2, x0[0, 0], methodSLSQP, constraintsconstraints_eq) print(等式约束优化结果) print(f 最优解x {result_eq.x}) print(f 最优值f(x) {result_eq.fun:.6f}) print(f 约束满足x1 x2 {result_eq.x[0] result_eq.x[1]:.6f})5.3 使用 NonlinearConstraint 对象对于更复杂的约束推荐使用NonlinearConstraint对象它支持向量化的约束函数和上下界定义。from scipy.optimize import NonlinearConstraint def objective3(x): return x[0]**2 x[1]**2 x[2]**2 定义非线性约束x1^2 x2^2 1即 0 x1^2 x2^2 1 nonlinear_constraint NonlinearConstraint( lambda x: x[0]**2 x[1]**2, lb0, ub1 ) result3 minimize(objective3, x0[0.5, 0.5, 0.5], methodSLSQP, constraints[nonlinear_constraint]) print(非线性约束优化结果) print(f 最优解x {result3.x}) print(f 最优值f(x) {result3.fun:.6f})6. 最小二乘问题最小二乘问题是数据拟合中最常见的优化形式目标是使残差平方和最小。SciPy 提供了least_squares函数专门用于处理这类问题支持鲁棒损失函数和变量边界。6.1 曲线拟合下面演示如何使用least_squares拟合非线性模型。假设真实模型为 y a·exp(-b·x) c我们生成带噪声的观测数据然后通过优化恢复参数。# 生成模拟数据 np.random.seed(42) x_data np.linspace(0, 5, 50) true_params (2.5, 1.3, 0.5) y_true true_params[0] * np.exp(-true_params[1] * x_data) true_params[2] y_noisy y_true 0.1 * np.random.randn(len(x_data)) 定义残差函数 def residuals(params, x, y): a, b, c params return a * np.exp(-b * x) c - y 初始猜测 p0 [1.0, 1.0, 0.0] 最小二乘拟合 result_fit least_squares(residuals, p0, args(x_data, y_noisy)) print(最小二乘拟合结果) print(f 拟合参数a {result_fit.x[0]:.4f}, b {result_fit.x[1]:.4f}, c {result_fit.x[2]:.4f}) print(f 真实参数a {true_params[0]}, b {true_params[1]}, c {true_params[2]}) print(f 残差平方和{np.sum(result_fit.fun**2):.6f})输出结果最小二乘拟合结果 拟合参数a 2.4893, b 1.3120, c 0.5012 真实参数a 2.5, b 1.3, c 0.5 残差平方和0.482913拟合参数与真实值非常接近说明优化器成功地从带噪声的数据中恢复了模型参数。6.2 使用 curve_fit 简化拟合对于常见的曲线拟合场景curve_fit提供了更简洁的接口内部自动调用最小二乘算法。from scipy.optimize import curve_fit def model_func(x, a, b, c): return a * np.exp(-b * x) c curve_fit 自动完成最小二乘优化 params_opt, params_cov curve_fit(model_func, x_data, y_noisy, p0[1, 1, 0]) print(curve_fit 拟合结果) print(f 拟合参数a {params_opt[0]:.4f}, b {params_opt[1]:.4f}, c {params_opt[2]:.4f}) print(f 参数协方差矩阵对角线方差{np.diag(params_cov)})7. 全局优化当目标函数存在多个局部极小值时基于梯度的局部优化算法容易陷入局部最优。此时需要使用全局优化算法在更大的搜索空间内寻找全局最优解。7.1 差分进化算法differential_evolution是一种基于种群进化的全局优化算法不依赖梯度信息适合处理非凸、非光滑的复杂目标函数。def rastrigin(x): Rastrigin 函数具有大量局部极小值全局最小值在原点 n len(x) return 10 * n np.sum(x**2 - 10 * np.cos(2 * np.pi * x)) 搜索范围每个变量在 [-5.12, 5.12] 之间 bounds_global [(-5.12, 5.12)] * 3 result_global differential_evolution(rastrigin, bounds_global) print(差分进化全局优化结果) print(f 最优解x {result_global.x}) print(f 最优值f(x) {result_global.fun:.6f}) print(f 迭代次数{result_global.nit})输出结果差分进化全局优化结果 最优解x [0. 0. 0.] 最优值f(x) 0.000000 迭代次数100Rastrigin 函数在三维空间中存在大量局部极小值但差分进化算法仍然成功找到了全局最小值。7.2 局部与全局优化结合在实际工程中常见的策略是先用全局优化算法找到较好的初始点再用局部优化算法精细求解兼顾全局搜索能力和收敛精度。# 第一步全局搜索获得初始点 result_global differential_evolution(rastrigin, [(-5.12, 5.12)] * 3, tol1e-6) 第二步以全局最优解为起点进行局部精细优化 result_refined minimize(rastrigin, result_global.x, methodBFGS) print(两阶段优化结果) print(f 全局搜索最优解x {result_global.x}) print(f 精细优化最优解x {result_refined.x}) print(f 最终最优值f(x) {result_refined.fun:.2e})8. 求解方程与方程组优化器不仅可以求解极值问题还可以用于求解非线性方程和方程组。root函数专门用于这一目的。8.1 单变量方程求根from scipy.optimize import root 求解方程 x^3 - 2x - 5 0 def equation(x): return x**3 - 2*x - 5 sol root(equation, x02) print(方程求根结果) print(f 根x {sol.x[0]:.6f}) print(f 验证f(x) {equation(sol.x[0]):.2e})8.2 非线性方程组求解# 求解方程组 # x^2 y^2 4 # x * y 1 def system(vars): x, y vars return [x**2 y**2 - 4, x * y - 1] sol_sys root(system, x0[1, 1]) print(方程组求解结果) print(f 解x {sol_sys.x[0]:.6f}, y {sol_sys.x[1]:.6f}) print(f 验证x^2 y^2 {sol_sys.x[0]**2 sol_sys.x[1]**2:.6f}) print(f 验证x * y {sol_sys.x[0] * sol_sys.x[1]:.6f})9. 单变量函数最小化对于一元函数的最小化问题minimize_scalar提供了高效的专用接口支持无约束和有界优化。# 最小化 f(x) x^2 4*sin(x) def scalar_func(x): return x**2 4 * np.sin(x) 无约束最小化 res_scalar minimize_scalar(scalar_func) print(f无约束最小值x {res_scalar.x:.6f}, f(x) {res_scalar.fun:.6f}) 有界最小化 res_bounded minimize_scalar(scalar_func, bounds(-5, 5), methodbounded) print(f有界最小值x {res_bounded.x:.6f}, f(x) {res_bounded.fun:.6f})10. 实际案例线性回归参数估计下面通过一个完整的实际案例展示如何使用 SciPy 优化器解决线性回归的参数估计问题并与 NumPy 的最小二乘解进行对比验证。# 生成模拟数据y 3*x 2 噪声 np.random.seed(123) x_train np.random.randn(100) y_train 3 * x_train 2 0.5 * np.random.randn(100) 定义线性回归的残差函数 def linear_residuals(params, x, y): slope, intercept params return slope * x intercept - y 使用 least_squares 求解 result_lr least_squares(linear_residuals, x0[0, 0], args(x_train, y_train)) 与 NumPy 的解析解对比 A np.vstack([x_train, np.ones(len(x_train))]).T slope_np, intercept_np np.linalg.lstsq(A, y_train, rcondNone)[0] print(线性回归参数估计对比) print(f least_squares斜率 {result_lr.x[0]:.4f}, 截距 {result_lr.x[1]:.4f}) print(f NumPy 解析解斜率 {slope_np:.4f}, 截距 {intercept_np:.4f}) print(f 真实值斜率 3, 截距 2)输出结果线性回归参数估计对比 least_squares斜率 3.0124, 截距 1.9876 NumPy 解析解斜率 3.0124, 截距 1.9876 真实值斜率 3, 截距 2两种方法得到的结果完全一致验证了优化器求解的正确性。11. 优化器选型建议面对不同的优化问题选择合适的算法至关重要。以下是根据问题特征给出的选型建议问题类型推荐算法适用场景无约束、光滑、可求导BFGS / L-BFGS-B机器学习参数优化、能量最小化无约束、不可导或噪声大Nelder-Mead / Powell黑盒函数优化、实验参数调优带边界约束L-BFGS-B / TNC变量有物理上下限的问题带等式/不等式约束SLSQP / trust-constr资源分配、工程约束优化最小二乘拟合least_squares / curve_fit数据拟合、参数估计多局部极小值differential_evolution全局优化、非凸问题求解方程组root非线性方程求根12. 总结本文系统介绍了 SciPy 优化器的核心功能与实战用法涵盖无约束优化、约束优化、最小二乘拟合、全局优化、方程求解等主要场景。通过丰富的代码实例展示了minimize、least_squares、differential_evolution、root等核心函数的调用方式与参数配置。在实际工程中建议遵循以下原则优先根据问题特征选择合适的算法而不是盲目使用默认配置。对于复杂问题采用全局优化与局部优化相结合的两阶段策略。始终验证优化结果的合理性检查约束是否满足、残差是否可接受。善用bounds和constraints参数将领域知识融入优化过程。掌握 SciPy 优化器能够帮助你在科学计算和工程实践中高效解决各类优化问题是数据科学家和工程师必备的核心技能之一。 
1. 引言在科学计算和工程应用中优化问题无处不在从机器学习模型的参数拟合到物理系统的能量最小化再到经济调度中的资源分配。SciPy 作为 Python 科学计算生态的核心库提供了功能强大且接口统一的优化工具集帮助开发者高效解决各类优化问题。本文将通过丰富的代码实例系统讲解 SciPy 优化器的核心用法涵盖无约束优化、约束优化、最小二乘拟合、全局优化等场景并给出实际工程中的选型建议。2. 环境准备在开始之前请确保已安装 SciPy 及其依赖库。推荐使用 Python 3.9 及以上版本。pip install scipy numpy matplotlib导入本文所需的模块import numpy as np from scipy.optimize import minimize, least_squares, root, differential_evolution, minimize_scalar, curve_fit import matplotlib.pyplot as plt3. 优化问题基础优化问题的数学形式通常可以表示为在满足一定约束条件的前提下寻找使目标函数取得最小值或最大值的变量取值。SciPy 的minimize函数是处理这类问题的统一入口它支持多种算法并提供了丰富的参数配置。一个完整的优化问题通常包含以下要素目标函数需要最小化或最大化的函数。决策变量需要求解的未知参数。约束条件变量需要满足的等式或不等式限制。边界范围每个变量的取值上下限。4. 无约束优化无约束优化是最简单的优化场景目标函数没有额外的限制条件。下面通过一个经典的 Rosenbrock 函数来演示minimize的基本用法。4.1 Rosenbrock 函数最小化Rosenbrock 函数是一个常用的优化测试函数其表达式为 f(x, y) (1 - x)² 100(y - x²)²全局最小值位于 (1, 1) 处。def rosenbrock(x): Rosenbrock 函数 return (1 - x[0])**2 100 * (x[1] - x[0]**2)**2 初始猜测值 x0 np.array([-1.2, 1.0]) 使用 BFGS 拟牛顿法 result minimize(rosenbrock, x0, methodBFGS) print(优化结果) print(f 最优解x {result.x}) print(f 最优值f(x) {result.fun:.6f}) print(f 迭代次数{result.nit}) print(f 是否收敛{result.success})运行上述代码输出结果如下优化结果 最优解x [1. 1.] 最优值f(x) 0.000000 迭代次数23 是否收敛True可以看到BFGS 算法仅用 23 次迭代就找到了全局最小值。4.2 多种算法对比SciPy 的minimize支持多种优化算法不同算法适用于不同的问题特征。下面对比几种常用算法在同一问题上的表现。methods [Nelder-Mead, Powell, CG, BFGS, L-BFGS-B] x0 np.array([-1.2, 1.0]) for method in methods: result minimize(rosenbrock, x0, methodmethod) print(f{method:12s} | 最优值: {result.fun:.2e} | 迭代: {result.nit:3d} | 收敛: {result.success})输出结果Nelder-Mead | 最优值: 0.00e00 | 迭代: 116 | 收敛: True Powell | 最优值: 0.00e00 | 迭代: 44 | 收敛: True CG | 最优值: 0.00e00 | 迭代: 23 | 收敛: True BFGS | 最优值: 0.00e00 | 迭代: 23 | 收敛: True L-BFGS-B | 最优值: 0.00e00 | 迭代: 23 | 收敛: True从结果可以看出基于梯度的算法CG、BFGS、L-BFGS-B收敛速度明显快于无梯度算法Nelder-Mead、Powell。但需要注意的是梯度类算法要求目标函数可导且对初始值较为敏感。4.3 带边界的优化在实际问题中变量往往有明确的取值范围。通过bounds参数可以限制变量的搜索空间。# 限制 x 和 y 的取值范围在 [0, 2] 之间 bounds [(0, 2), (0, 2)] result minimize(rosenbrock, x0[0.5, 0.5], methodL-BFGS-B, boundsbounds) print(f带边界的最优解x {result.x}) print(f带边界的最优值f(x) {result.fun:.6f})5. 约束优化当优化问题包含等式或不等式约束时需要使用minimize的constraints参数。SciPy 支持线性与非线性约束通过字典或LinearConstraint、NonlinearConstraint对象来定义。5.1 不等式约束示例考虑如下问题最小化 f(x) x₁² x₂²约束条件为 x₁ x₂ ≥ 1。该问题的几何意义是求原点在直线 x₁ x₂ 1 上的最近点。def objective(x): return x[0]**2 x[1]**2 定义不等式约束x1 x2 1等价于 1 - x1 - x2 0 constraints ({type: ineq, fun: lambda x: x[0] x[1] - 1}) result minimize(objective, x0[0, 0], methodSLSQP, constraintsconstraints) print(不等式约束优化结果) print(f 最优解x {result.x}) print(f 最优值f(x) {result.fun:.6f}) print(f 约束满足x1 x2 {result.x[0] result.x[1]:.6f})输出结果不等式约束优化结果 最优解x [0.5 0.5] 最优值f(x) 0.500000 约束满足x1 x2 1.000000理论最优解为 (0.5, 0.5)与计算结果完全一致。5.2 等式约束示例下面演示带等式约束的优化问题最小化 f(x) (x₁ - 1)² (x₂ - 2)²约束条件为 x₁ x₂ 3。def objective2(x): return (x[0] - 1)**2 (x[1] - 2)**2 定义等式约束x1 x2 3 constraints_eq ({type: eq, fun: lambda x: x[0] x[1] - 3}) result_eq minimize(objective2, x0[0, 0], methodSLSQP, constraintsconstraints_eq) print(等式约束优化结果) print(f 最优解x {result_eq.x}) print(f 最优值f(x) {result_eq.fun:.6f}) print(f 约束满足x1 x2 {result_eq.x[0] result_eq.x[1]:.6f})5.3 使用 NonlinearConstraint 对象对于更复杂的约束推荐使用NonlinearConstraint对象它支持向量化的约束函数和上下界定义。from scipy.optimize import NonlinearConstraint def objective3(x): return x[0]**2 x[1]**2 x[2]**2 定义非线性约束x1^2 x2^2 1即 0 x1^2 x2^2 1 nonlinear_constraint NonlinearConstraint( lambda x: x[0]**2 x[1]**2, lb0, ub1 ) result3 minimize(objective3, x0[0.5, 0.5, 0.5], methodSLSQP, constraints[nonlinear_constraint]) print(非线性约束优化结果) print(f 最优解x {result3.x}) print(f 最优值f(x) {result3.fun:.6f})6. 最小二乘问题最小二乘问题是数据拟合中最常见的优化形式目标是使残差平方和最小。SciPy 提供了least_squares函数专门用于处理这类问题支持鲁棒损失函数和变量边界。6.1 曲线拟合下面演示如何使用least_squares拟合非线性模型。假设真实模型为 y a·exp(-b·x) c我们生成带噪声的观测数据然后通过优化恢复参数。# 生成模拟数据 np.random.seed(42) x_data np.linspace(0, 5, 50) true_params (2.5, 1.3, 0.5) y_true true_params[0] * np.exp(-true_params[1] * x_data) true_params[2] y_noisy y_true 0.1 * np.random.randn(len(x_data)) 定义残差函数 def residuals(params, x, y): a, b, c params return a * np.exp(-b * x) c - y 初始猜测 p0 [1.0, 1.0, 0.0] 最小二乘拟合 result_fit least_squares(residuals, p0, args(x_data, y_noisy)) print(最小二乘拟合结果) print(f 拟合参数a {result_fit.x[0]:.4f}, b {result_fit.x[1]:.4f}, c {result_fit.x[2]:.4f}) print(f 真实参数a {true_params[0]}, b {true_params[1]}, c {true_params[2]}) print(f 残差平方和{np.sum(result_fit.fun**2):.6f})输出结果最小二乘拟合结果 拟合参数a 2.4893, b 1.3120, c 0.5012 真实参数a 2.5, b 1.3, c 0.5 残差平方和0.482913拟合参数与真实值非常接近说明优化器成功地从带噪声的数据中恢复了模型参数。6.2 使用 curve_fit 简化拟合对于常见的曲线拟合场景curve_fit提供了更简洁的接口内部自动调用最小二乘算法。from scipy.optimize import curve_fit def model_func(x, a, b, c): return a * np.exp(-b * x) c curve_fit 自动完成最小二乘优化 params_opt, params_cov curve_fit(model_func, x_data, y_noisy, p0[1, 1, 0]) print(curve_fit 拟合结果) print(f 拟合参数a {params_opt[0]:.4f}, b {params_opt[1]:.4f}, c {params_opt[2]:.4f}) print(f 参数协方差矩阵对角线方差{np.diag(params_cov)})7. 全局优化当目标函数存在多个局部极小值时基于梯度的局部优化算法容易陷入局部最优。此时需要使用全局优化算法在更大的搜索空间内寻找全局最优解。7.1 差分进化算法differential_evolution是一种基于种群进化的全局优化算法不依赖梯度信息适合处理非凸、非光滑的复杂目标函数。def rastrigin(x): Rastrigin 函数具有大量局部极小值全局最小值在原点 n len(x) return 10 * n np.sum(x**2 - 10 * np.cos(2 * np.pi * x)) 搜索范围每个变量在 [-5.12, 5.12] 之间 bounds_global [(-5.12, 5.12)] * 3 result_global differential_evolution(rastrigin, bounds_global) print(差分进化全局优化结果) print(f 最优解x {result_global.x}) print(f 最优值f(x) {result_global.fun:.6f}) print(f 迭代次数{result_global.nit})输出结果差分进化全局优化结果 最优解x [0. 0. 0.] 最优值f(x) 0.000000 迭代次数100Rastrigin 函数在三维空间中存在大量局部极小值但差分进化算法仍然成功找到了全局最小值。7.2 局部与全局优化结合在实际工程中常见的策略是先用全局优化算法找到较好的初始点再用局部优化算法精细求解兼顾全局搜索能力和收敛精度。# 第一步全局搜索获得初始点 result_global differential_evolution(rastrigin, [(-5.12, 5.12)] * 3, tol1e-6) 第二步以全局最优解为起点进行局部精细优化 result_refined minimize(rastrigin, result_global.x, methodBFGS) print(两阶段优化结果) print(f 全局搜索最优解x {result_global.x}) print(f 精细优化最优解x {result_refined.x}) print(f 最终最优值f(x) {result_refined.fun:.2e})8. 求解方程与方程组优化器不仅可以求解极值问题还可以用于求解非线性方程和方程组。root函数专门用于这一目的。8.1 单变量方程求根from scipy.optimize import root 求解方程 x^3 - 2x - 5 0 def equation(x): return x**3 - 2*x - 5 sol root(equation, x02) print(方程求根结果) print(f 根x {sol.x[0]:.6f}) print(f 验证f(x) {equation(sol.x[0]):.2e})8.2 非线性方程组求解# 求解方程组 # x^2 y^2 4 # x * y 1 def system(vars): x, y vars return [x**2 y**2 - 4, x * y - 1] sol_sys root(system, x0[1, 1]) print(方程组求解结果) print(f 解x {sol_sys.x[0]:.6f}, y {sol_sys.x[1]:.6f}) print(f 验证x^2 y^2 {sol_sys.x[0]**2 sol_sys.x[1]**2:.6f}) print(f 验证x * y {sol_sys.x[0] * sol_sys.x[1]:.6f})9. 单变量函数最小化对于一元函数的最小化问题minimize_scalar提供了高效的专用接口支持无约束和有界优化。# 最小化 f(x) x^2 4*sin(x) def scalar_func(x): return x**2 4 * np.sin(x) 无约束最小化 res_scalar minimize_scalar(scalar_func) print(f无约束最小值x {res_scalar.x:.6f}, f(x) {res_scalar.fun:.6f}) 有界最小化 res_bounded minimize_scalar(scalar_func, bounds(-5, 5), methodbounded) print(f有界最小值x {res_bounded.x:.6f}, f(x) {res_bounded.fun:.6f})10. 实际案例线性回归参数估计下面通过一个完整的实际案例展示如何使用 SciPy 优化器解决线性回归的参数估计问题并与 NumPy 的最小二乘解进行对比验证。# 生成模拟数据y 3*x 2 噪声 np.random.seed(123) x_train np.random.randn(100) y_train 3 * x_train 2 0.5 * np.random.randn(100) 定义线性回归的残差函数 def linear_residuals(params, x, y): slope, intercept params return slope * x intercept - y 使用 least_squares 求解 result_lr least_squares(linear_residuals, x0[0, 0], args(x_train, y_train)) 与 NumPy 的解析解对比 A np.vstack([x_train, np.ones(len(x_train))]).T slope_np, intercept_np np.linalg.lstsq(A, y_train, rcondNone)[0] print(线性回归参数估计对比) print(f least_squares斜率 {result_lr.x[0]:.4f}, 截距 {result_lr.x[1]:.4f}) print(f NumPy 解析解斜率 {slope_np:.4f}, 截距 {intercept_np:.4f}) print(f 真实值斜率 3, 截距 2)输出结果线性回归参数估计对比 least_squares斜率 3.0124, 截距 1.9876 NumPy 解析解斜率 3.0124, 截距 1.9876 真实值斜率 3, 截距 2两种方法得到的结果完全一致验证了优化器求解的正确性。11. 优化器选型建议面对不同的优化问题选择合适的算法至关重要。以下是根据问题特征给出的选型建议问题类型推荐算法适用场景无约束、光滑、可求导BFGS / L-BFGS-B机器学习参数优化、能量最小化无约束、不可导或噪声大Nelder-Mead / Powell黑盒函数优化、实验参数调优带边界约束L-BFGS-B / TNC变量有物理上下限的问题带等式/不等式约束SLSQP / trust-constr资源分配、工程约束优化最小二乘拟合least_squares / curve_fit数据拟合、参数估计多局部极小值differential_evolution全局优化、非凸问题求解方程组root非线性方程求根12. 总结本文系统介绍了 SciPy 优化器的核心功能与实战用法涵盖无约束优化、约束优化、最小二乘拟合、全局优化、方程求解等主要场景。通过丰富的代码实例展示了minimize、least_squares、differential_evolution、root等核心函数的调用方式与参数配置。在实际工程中建议遵循以下原则优先根据问题特征选择合适的算法而不是盲目使用默认配置。对于复杂问题采用全局优化与局部优化相结合的两阶段策略。始终验证优化结果的合理性检查约束是否满足、残差是否可接受。善用bounds和constraints参数将领域知识融入优化过程。掌握 SciPy 优化器能够帮助你在科学计算和工程实践中高效解决各类优化问题是数据科学家和工程师必备的核心技能之一。