1. 程式人生 > 其它 >刷leetcode必備演算法,動態規劃詳解

刷leetcode必備演算法,動態規劃詳解

我們刷leetcode的時候,經常會遇到動態規劃型別題目。動態規劃問題非常非常經典,也很有技巧性,一般大廠都非常喜歡問。今天跟大家一起來學習動態規劃的套路,文章如果有不正確的地方,歡迎大家指出哈,感謝感謝~

  • 什麼是動態規劃?
  • 動態規劃的核心思想
  • 一個例子走進動態規劃
  • 動態規劃的解題套路
  • leetcode案例分析

公眾號:撿田螺的小男孩

什麼是動態規劃?

動態規劃(英語:Dynamic programming,簡稱 DP),是一種在數學、管理科學、電腦科學、經濟學和生物資訊學中使用的,通過把原問題分解為相對簡單的子問題的方式求解複雜問題的方法。動態規劃常常適用於有重疊子問題和最優子結構性質的問題。

dynamic programming is a method for solving a complex problem by breaking it down into a collection of simpler subproblems.

以上定義來自維基百科,看定義感覺還是有點抽象。簡單來說,動態規劃其實就是,給定一個問題,我們把它拆成一個個子問題,直到子問題可以直接解決。然後呢,把子問題答案儲存起來,以減少重複計算。再根據子問題答案反推,得出原問題解的一種方法。

一般這些子問題很相似,可以通過函式關係式遞推出來。然後呢,動態規劃就致力於解決每個子問題一次,減少重複計算,比如斐波那契數列就可以看做入門級的經典動態規劃問題。

動態規劃核心思想

動態規劃最核心的思想,就在於拆分子問題,記住過往,減少重複計算。

我們來看下,網上比較流行的一個例子:

  • A : "1+1+1+1+1+1+1+1 =?"
  • A : "上面等式的值是多少"
  • B : 計算 "8"
  • A : 在上面等式的左邊寫上 "1+" 呢?
  • A : "此時等式的值為多少"
  • B : 很快得出答案 "9"
  • A : "你怎麼這麼快就知道答案了"
  • A : "只要在8的基礎上加1就行了"
  • A : "所以你不用重新計算,因為你記住了第一個等式的值為8!動態規劃演算法也可以說是 '記住求過的解來節省時間'"

一個例子帶你走進動態規劃 -- 青蛙跳階問題

暴力遞迴

leetcode原題:一隻青蛙一次可以跳上1級臺階,也可以跳上2級臺階。求該青蛙跳上一個 10 級的臺階總共有多少種跳法。

有些小夥伴第一次見這個題的時候,可能會有點蒙圈,不知道怎麼解決。其實可以試想:

  • 要想跳到第10級臺階,要麼是先跳到第9級,然後再跳1級臺階上去;要麼是先跳到第8級,然後一次邁2級臺階上去。
  • 同理,要想跳到第9級臺階,要麼是先跳到第8級,然後再跳1級臺階上去;要麼是先跳到第7級,然後一次邁2級臺階上去。
  • 要想跳到第8級臺階,要麼是先跳到第7級,然後再跳1級臺階上去;要麼是先跳到第6級,然後一次邁2級臺階上去。

假設跳到第n級臺階的跳數我們定義為f(n),很顯然就可以得出以下公式:

f(10) = f(9)+f(8)
f (9)  = f(8) + f(7)
f (8)  = f(7) + f(6)
...
f(3) = f(2) + f(1)

即通用公式為: f(n) = f(n-1) + f(n-2)

那f(2) 或者 f(1) 等於多少呢?

  • 當只有2級臺階時,有兩種跳法,第一種是直接跳兩級,第二種是先跳一級,然後再跳一級。即f(2) = 2;
  • 當只有1級臺階時,只有一種跳法,即f(1)= 1;

因此可以用遞迴去解決這個問題:

class Solution {
    public int numWays(int n) {
    if(n == 1){
        return 1;
    }
     if(n == 2){
        return 2;
    }
    return numWays(n-1) + numWays(n-2);
    }
}

去leetcode提交一下,發現有問題,超出時間限制了

為什麼超時了呢?遞迴耗時在哪裡呢?先畫出遞迴樹看看:

  • 要計算原問題 f(10),就需要先計算出子問題 f(9) 和 f(8)
  • 然後要計算 f(9),又要先算出子問題 f(8) 和 f(7),以此類推。
  • 一直到 f(2) 和 f(1),遞迴樹才終止。

我們先來看看這個遞迴的時間複雜度吧:

遞迴時間複雜度 = 解決一個子問題時間*子問題個數
  • 一個子問題時間 = f(n-1)+f(n-2),也就是一個加法的操作,所以複雜度是 O(1);
  • 問題個數 = 遞迴樹節點的總數,遞迴樹的總節點 = 2^n-1,所以是複雜度O(2^n)。

因此,青蛙跳階,遞迴解法的時間複雜度 = O(1) * O(2^n) = O(2^n),就是指數級別的,爆炸增長的,如果n比較大的話,超時很正常的了。

回過頭來,你仔細觀察這顆遞迴樹,你會發現存在大量重複計算,比如f(8)被計算了兩次,f(7)被重複計算了3次...所以這個遞迴演算法低效的原因,就是存在大量的重複計算!

既然存在大量重複計算,那麼我們可以先把計算好的答案存下來,即造一個備忘錄,等到下次需要的話,先去備忘錄查一下,如果有,就直接取就好了,備忘錄沒有才開始計算,那就可以省去重新重複計算的耗時啦!這就是帶備忘錄的解法。

帶備忘錄的遞迴解法(自頂向下)

一般使用一個數組或者一個雜湊map充當這個備忘錄。

  • 第一步,f(10)= f(9) + f(8),f(9) 和f(8)都需要計算出來,然後再加到備忘錄中,如下:

  • 第二步, f(9) = f(8)+ f(7),f(8)= f(7)+ f(6), 因為 f(8) 已經在備忘錄中啦,所以可以省掉,f(7),f(6)都需要計算出來,加到備忘錄中~

第三步, f(8) = f(7)+ f(6),發現f(8),f(7),f(6)全部都在備忘錄上了,所以都可以剪掉。

所以呢,用了備忘錄遞迴演算法,遞迴樹變成光禿禿的樹幹咯,如下:

帶備忘錄的遞迴演算法,子問題個數=樹節點數=n,解決一個子問題還是O(1),所以帶備忘錄的遞迴演算法的時間複雜度是O(n)。接下來呢,我們用帶備忘錄的遞迴演算法去擼程式碼,解決這個青蛙跳階問題的超時問題咯~,程式碼如下:

public class Solution {
    //使用雜湊map,充當備忘錄的作用
    Map<Integer, Integer> tempMap = new HashMap();
    public int numWays(int n) {
        // n = 0 也算1種
        if (n == 0) {
            return 1;
        }
        if (n <= 2) {
            return n;
        }
        //先判斷有沒計算過,即看看備忘錄有沒有
        if (tempMap.containsKey(n)) {
            //備忘錄有,即計算過,直接返回
            return tempMap.get(n);
        } else {
            // 備忘錄沒有,即沒有計算過,執行遞迴計算,並且把結果儲存到備忘錄map中,對1000000007取餘(這個是leetcode題目規定的)
            tempMap.put(n, (numWays(n - 1) + numWays(n - 2)) % 1000000007);
            return tempMap.get(n);
        }
    }
}

去leetcode提交一下,如圖,穩了:

其實,還可以用動態規劃解決這道題。

自底向上的動態規劃

動態規劃跟帶備忘錄的遞迴解法基本思想是一致的,都是減少重複計算,時間複雜度也都是差不多。但是呢:

  • 帶備忘錄的遞迴,是從f(10)往f(1)方向延伸求解的,所以也稱為自頂向下的解法。
  • 動態規劃從較小問題的解,由交疊性質,逐步決策出較大問題的解,它是從f(1)往f(10)方向,往上推求解,所以稱為自底向上的解法。

動態規劃有幾個典型特徵,最優子結構、狀態轉移方程、邊界、重疊子問題。在青蛙跳階問題中:

  • f(n-1)和f(n-2) 稱為 f(n) 的最優子結構
  • f(n)= f(n-1)+f(n-2)就稱為狀態轉移方程
  • f(1) = 1, f(2) = 2 就是邊界啦
  • 比如f(10)= f(9)+f(8),f(9) = f(8) + f(7) ,f(8)就是重疊子問題。

我們來看下自底向上的解法,從f(1)往f(10)方向,想想是不是直接一個for迴圈就可以解決啦,如下:

帶備忘錄的遞迴解法,空間複雜度是O(n),但是呢,仔細觀察上圖,可以發現,f(n)只依賴前面兩個數,所以只需要兩個變數a和b來儲存,就可以滿足需求了,因此空間複雜度是O(1)就可以啦

動態規劃實現程式碼如下:

public class Solution {
    public int numWays(int n) {
        if (n<= 1) {
            return 1;
        }
        if (n == 2) {
            return 2;
        }
        int a = 1;
        int b = 2;
        int temp = 0;
        for (int i = 3; i <= n; i++) {
            temp = (a + b)% 1000000007;
            a = b;
            b = temp;
        }
        return temp;
    }
    }

動態規劃的解題套路

什麼樣的問題可以考慮使用動態規劃解決呢?

如果一個問題,可以把所有可能的答案窮舉出來,並且窮舉出來後,發現存在重疊子問題,就可以考慮使用動態規劃。

比如一些求最值的場景,如最長遞增子序列、最小編輯距離、揹包問題、湊零錢問題等等,都是動態規劃的經典應用場景。

動態規劃的解題思路

動態規劃的核心思想就是拆分子問題,記住過往,減少重複計算。 並且動態規劃一般都是自底向上的,因此到這裡,基於青蛙跳階問題,我總結了一下我做動態規劃的思路:

  • 窮舉分析
  • 確定邊界
  • 找出規律,確定最優子結構
  • 寫出狀態轉移方程

1. 窮舉分析

  • 當臺階數是1的時候,有一種跳法,f(1) =1
  • 當只有2級臺階時,有兩種跳法,第一種是直接跳兩級,第二種是先跳一級,然後再跳一級。即f(2) = 2;
  • 當臺階是3級時,想跳到第3級臺階,要麼是先跳到第2級,然後再跳1級臺階上去,要麼是先跳到第 1級,然後一次邁 2 級臺階上去。所以f(3) = f(2) + f(1) =3
  • 當臺階是4級時,想跳到第3級臺階,要麼是先跳到第3級,然後再跳1級臺階上去,要麼是先跳到第 2級,然後一次邁 2 級臺階上去。所以f(4) = f(3) + f(2) =5
  • 當臺階是5級時......

2. 確定邊界

通過窮舉分析,我們發現,當臺階數是1的時候或者2的時候,可以明確知道青蛙跳法。f(1) =1,f(2) = 2,當臺階n>=3時,已經呈現出規律f(3) = f(2) + f(1) =3,因此f(1) =1,f(2) = 2就是青蛙跳階的邊界。

3. 找規律,確定最優子結構

n>=3時,已經呈現出規律 f(n) = f(n-1) + f(n-2) ,因此,f(n-1)和f(n-2) 稱為 f(n) 的最優子結構。什麼是最優子結構?有這麼一個解釋:

一道動態規劃問題,其實就是一個遞推問題。假設當前決策結果是f(n),則最優子結構就是要讓 f(n-k) 最優,最優子結構性質就是能讓轉移到n的狀態是最優的,並且與後面的決策沒有關係,即讓後面的決策安心地使用前面的區域性最優解的一種性質

4, 寫出狀態轉移方程

通過前面3步,窮舉分析,確定邊界,最優子結構,我們就可以得出狀態轉移方程啦:

5. 程式碼實現

我們實現程式碼的時候,一般注意從底往上遍歷哈,然後關注下邊界情況,空間複雜度,也就差不多啦。動態規劃有個框架的,大家實現的時候,可以考慮適當參考一下:

dp[0][0][...] = 邊界值
for(狀態1 :所有狀態1的值){
    for(狀態2 :所有狀態2的值){
        for(...){
          //狀態轉移方程
          dp[狀態1][狀態2][...] = 求最值
        }
    }
}

leetcode案例分析

我們一起來分析一道經典leetcode題目吧

給你一個整數陣列 nums ,找到其中最長嚴格遞增子序列的長度。

示例 1:

輸入:nums = [10,9,2,5,3,7,101,18]
輸出:4
解釋:最長遞增子序列是 [2,3,7,101],因此長度為 4 。

示例 2:

輸入:nums = [0,1,0,3,2,3]
輸出:4

我們按照以上動態規劃的解題思路,

  • 窮舉分析
  • 確定邊界
  • 找規律,確定最優子結構
  • 狀態轉移方程

1.窮舉分析

因為動態規劃,核心思想包括拆分子問題,記住過往,減少重複計算。 所以我們在思考原問題:陣列num[i]的最長遞增子序列長度時,可以思考下相關子問題,比如原問題是否跟子問題num[i-1]的最長遞增子序列長度有關呢?

自頂向上的窮舉

這裡觀察規律,顯然是有關係的,我們還是遵循動態規劃自底向上的原則,基於示例1的資料,從陣列只有一個元素開始分析。

  • 當nums只有一個元素10時,最長遞增子序列是[10],長度是1.
  • 當nums需要加入一個元素9時,最長遞增子序列是[10]或者[9],長度是1。
  • 當nums再加入一個元素2時,最長遞增子序列是[10]或者[9]或者[2],長度是1。
  • 當nums再加入一個元素5時,最長遞增子序列是[2,5],長度是2。
  • 當nums再加入一個元素3時,最長遞增子序列是[2,5]或者[2,3],長度是2。
  • 當nums再加入一個元素7時,,最長遞增子序列是[2,5,7]或者[2,3,7],長度是3。
  • 當nums再加入一個元素101時,最長遞增子序列是[2,5,7,101]或者[2,3,7,101],長度是4。
  • 當nums再加入一個元素18時,最長遞增子序列是[2,5,7,101]或者[2,3,7,101]或者[2,5,7,18]或者[2,3,7,18],長度是4。
  • 當nums再加入一個元素7時,最長遞增子序列是[2,5,7,101]或者[2,3,7,101]或者[2,5,7,18]或者[2,3,7,18],長度是4.
分析找規律,拆分子問題

通過上面分析,我們可以發現一個規律:

如果新加入一個元素nums[i], 最長遞增子序列要麼是以nums[i]結尾的遞增子序列,要麼就是nums[i-1]的最長遞增子序列。看到這個,是不是很開心,nums[i]的最長遞增子序列已經跟子問題 nums[i-1]的最長遞增子序列有關聯了。

原問題陣列nums[i]的最長遞增子序列 = 子問題陣列nums[i-1]的最長遞增子序列/nums[i]結尾的最長遞增子序列

是不是感覺成功了一半呢?但是如何把nums[i]結尾的遞增子序列也轉化為對應的子問題呢?要是nums[i]結尾的遞增子序列也跟nums[i-1]的最長遞增子序列有關就好了。又或者nums[i]結尾的最長遞增子序列,跟前面子問題num[j](0=<j<i)結尾的最長遞增子序列有關就好了,帶著這個想法,我們又回頭看看窮舉的過程:

nums[i]的最長遞增子序列,不就是從以陣列num[i]每個元素結尾的最長子序列集合,取元素最多(也就是長度最長)那個嘛,所以原問題,我們轉化成求出以陣列nums每個元素結尾的最長子序列集合,再取最大值嘛。哈哈,想到這,我們就可以用dp[i]表示以num[i]這個數結尾的最長遞增子序列的長度啦,然後再來看看其中的規律:

其實,nums[i]結尾的自增子序列,只要找到比nums[i]小的子序列,加上nums[i] 就可以啦。顯然,可能形成多種新的子序列,我們選最長那個,就是dp[i]的值啦

  • nums[3]=5,以5結尾的最長子序列就是[2,5],因為從陣列下標0到3遍歷,只找到了子序列[2]5小,所以就是[2]+[5]啦,即dp[4]=2
  • nums[4]=3,以3結尾的最長子序列就是[2,3],因為從陣列下標0到4遍歷,只找到了子序列[2]3小,所以就是[2]+[3]啦,即dp[4]=2
  • nums[5]=7,以7結尾的最長子序列就是[2,5,7][2,3,7],因為從陣列下標0到5遍歷,找到2,5和3都比7小,所以就有[2,7],[5,7],[3,7],[2,5,7]和[2,3,7]這些子序列,最長子序列就是[2,5,7]和[2,3,7],它倆不就是以5結尾和3結尾的最長遞增子序列+[7]來的嘛!所以,dp[5]=3 =dp[3]+1=dp[4]+1

很顯然有這個規律:一個以nums[i]結尾的陣列nums

  • 如果存在j屬於區間[0,i-1],並且num[i]>num[j]的話,則有,dp(i) =max(dp(j))+1,

最簡單的邊界情況

當nums陣列只有一個元素時,最長遞增子序列的長度dp(1)=1,當nums陣列有兩個元素時,dp(2) =2或者1, 因此邊界就是dp(1)=1。

確定最優子結構

從窮舉分析,我們可以得出,以下的最優結構:

dp(i) =max(dp(j))+1,存在j屬於區間[0,i-1],並且num[i]>num[j]。

max(dp(j)) 就是最優子結構。

狀態轉移方程

通過前面分析,我們就可以得出狀態轉移方程啦:

所以陣列num[i]的最長遞增子序列就是:

最長遞增子序列 =max(dp[i])

程式碼實現

class Solution {
    public int lengthOfLIS(int[] nums) {
        if (nums.length == 0) {
            return 0;
        }
        int[] dp = new int[nums.length];
        //初始化就是邊界情況
        dp[0] = 1;
        int maxans = 1;
        //自底向上遍歷
        for (int i = 1; i < nums.length; i++) {
            dp[i] = 1;
            //從下標0到i遍歷
            for (int j = 0; j < i; j++) {
                //找到前面比nums[i]小的數nums[j],即有dp[i]= dp[j]+1
                if (nums[j] < nums[i]) {
                    //因為會有多個小於nums[i]的數,也就是會存在多種組合了嘛,我們就取最大放到dp[i]
                    dp[i] = Math.max(dp[i], dp[j] + 1);
                }
            }
            //求出dp[i]後,dp最大那個就是nums的最長遞增子序列啦
            maxans = Math.max(maxans, dp[i]);
        }
        return maxans;
    }
}