一、背景：

現在專案上有一個用python 實現非線性規劃的需求。非線性規劃可以簡單分兩種，目標函式為凸函式 or 非凸函式。

凸函式的 非線性規劃，比如fun=x^2+y^2+x*y，有很多常用的python庫來完成，網上也有很多資料，比如CVXPY

非凸函式的 非線性規劃（求極值），從處理方法來說，可以嘗試以下幾種：

1.純數學方法，求導求極值；

2.使用神經網路，深度學習來處理，可參考反向傳播演算法中鏈式求導的過程；

3.尋找一些python庫來做，本文介紹scipy.optimize.minimize的使用方法

二、庫方法介紹

官方文件：https://docs.scipy.org/doc/scipy/reference/generated/scipy.optimize.minimize.html

來看下改方法的入參

scipy.optimize.minimize(fun,x0,args=(),method=None,jac=None,hess=None,hessp=None,bounds=None,constraints=(),tol=None,callback=None,options=None)

解釋：

fun: 求最小值的目標函式

x0:變數的初始猜測值，如果有多個變數，需要給每個變數一個初始猜測值。minimize是區域性最優的解法，所以

args:常數值,後面demo會講解，fun中沒有數字，都以變數的形式表示，對於常數項，需要在這裡給值

method:求極值的方法，官方文件給了很多種。一般使用預設。每種方法我理解是計算誤差，反向傳播的方式不同而已，這塊有很大理論研究空間

constraints:約束條件，針對fun中為引數的部分進行約束限制

三、demo

1.計算 1/x+x 的最小值

# coding=utf-8
from scipy.optimize import minimize
import numpy as np
 
#demo 1
#計算 1/x+x 的最小值
 def fun(args):
  a=args
  v=lambda x:a/x[0] +x[0]
  return v
 
 if __name__ == "__main__":
  args = (1) #a
  x0 = np.asarray((2)) # 初始猜測值
  res = minimize(fun(args),method='SLSQP')
  print(res.fun)
  print(res.success)
  print(res.x)

執行結果:函式的最小值為2點多，可以看出minimize求的區域性最優

2.計算 (2+x1)/(1+x2) - 3*x1+4*x3 的最小值 x1,x2,x3的範圍都在0.1到0.9 之間

# coding=utf-8
from scipy.optimize import minimize
import numpy as np
 
# demo 2
#計算 (2+x1)/(1+x2) - 3*x1+4*x3 的最小值 x1,x3的範圍都在0.1到0.9 之間
def fun(args):
 a,b,c,d=args
 v=lambda x: (a+x[0])/(b+x[1]) -c*x[0]+d*x[2]
 return v
def con(args):
 # 約束條件 分為eq 和ineq
 #eq表示 函式結果等於0 ； ineq 表示 表示式大於等於0 
 x1min,x1max,x2min,x2max,x3min,x3max = args
 cons = ({'type': 'ineq','fun': lambda x: x[0] - x1min},\
    {'type': 'ineq','fun': lambda x: -x[0] + x1max},'fun': lambda x: x[1] - x2min},'fun': lambda x: -x[1] + x2max},\
   {'type': 'ineq','fun': lambda x: x[2] - x3min},'fun': lambda x: -x[2] + x3max})
 return cons
 
if __name__ == "__main__":
 #定義常量值
 args = (2,1,3,4) #a,d
 #設定引數範圍/約束條件
 args1 = (0.1,0.9,0.1,0.9) #x1min,x2max
 cons = con(args1)
 #設定初始猜測值 
 x0 = np.asarray((0.5,0.5,0.5))
 
 res = minimize(fun(args),method='SLSQP',constraints=cons)
 print(res.fun)
 print(res.success)
 print(res.x)

執行結果：

對於這種簡單的函式，可以看出區域性最優的求解和真實最優解相差不大，對於複雜的函式，x0的初始值設定，會很大程度影響最優解的結果。

ADD:

全域性最優的函式： scipy.optimize.basinhopping

有一個缺點是無法設定約束，求全域性的最優解的函式

https://docs.scipy.org/doc/scipy/reference/generated/scipy.optimize.basinhopping.html

以上這篇python 非線性規劃方式(scipy.optimize.minimize)就是小編分享給大家的全部內容了，希望能給大家一個參考，也希望大家多多支援我們。