刷leetcode必備演算法,動態規劃詳解
我們刷leetcode的時候,經常會遇到動態規劃型別題目。動態規劃問題非常非常經典,也很有技巧性,一般大廠都非常喜歡問。今天跟大家一起來學習動態規劃的套路,文章如果有不正確的地方,歡迎大家指出哈,感謝感謝~
- 什麼是動態規劃?
- 動態規劃的核心思想
- 一個例子走進動態規劃
- 動態規劃的解題套路
- leetcode案例分析
公眾號:撿田螺的小男孩
什麼是動態規劃?
動態規劃(英語:Dynamic programming,簡稱 DP),是一種在數學、管理科學、電腦科學、經濟學和生物資訊學中使用的,通過把原問題分解為相對簡單的子問題的方式求解複雜問題的方法。動態規劃常常適用於有重疊子問題和最優子結構性質的問題。
dynamic programming is a method for solving a complex problem by breaking it down into a collection of simpler subproblems.
以上定義來自維基百科,看定義感覺還是有點抽象。簡單來說,動態規劃其實就是,給定一個問題,我們把它拆成一個個子問題,直到子問題可以直接解決。然後呢,把子問題答案儲存起來,以減少重複計算。再根據子問題答案反推,得出原問題解的一種方法。
一般這些子問題很相似,可以通過函式關係式遞推出來。然後呢,動態規劃就致力於解決每個子問題一次,減少重複計算,比如斐波那契數列就可以看做入門級的經典動態規劃問題。
動態規劃核心思想
動態規劃最核心的思想,就在於拆分子問題,記住過往,減少重複計算。
我們來看下,網上比較流行的一個例子:
- A : "1+1+1+1+1+1+1+1 =?"
- A : "上面等式的值是多少"
- B : 計算 "8"
- A : 在上面等式的左邊寫上 "1+" 呢?
- A : "此時等式的值為多少"
- B : 很快得出答案 "9"
- A : "你怎麼這麼快就知道答案了"
- A : "只要在8的基礎上加1就行了"
- A : "所以你不用重新計算,因為你記住了第一個等式的值為8!動態規劃演算法也可以說是 '記住求過的解來節省時間'"
一個例子帶你走進動態規劃 -- 青蛙跳階問題
暴力遞迴
leetcode原題:一隻青蛙一次可以跳上1級臺階,也可以跳上2級臺階。求該青蛙跳上一個 10 級的臺階總共有多少種跳法。
有些小夥伴第一次見這個題的時候,可能會有點蒙圈,不知道怎麼解決。其實可以試想:
- 要想跳到第10級臺階,要麼是先跳到第9級,然後再跳1級臺階上去;要麼是先跳到第8級,然後一次邁2級臺階上去。
- 同理,要想跳到第9級臺階,要麼是先跳到第8級,然後再跳1級臺階上去;要麼是先跳到第7級,然後一次邁2級臺階上去。
- 要想跳到第8級臺階,要麼是先跳到第7級,然後再跳1級臺階上去;要麼是先跳到第6級,然後一次邁2級臺階上去。
假設跳到第n級臺階的跳數我們定義為f(n),很顯然就可以得出以下公式:
f(10) = f(9)+f(8)
f (9) = f(8) + f(7)
f (8) = f(7) + f(6)
...
f(3) = f(2) + f(1)
即通用公式為: f(n) = f(n-1) + f(n-2)
那f(2) 或者 f(1) 等於多少呢?
- 當只有2級臺階時,有兩種跳法,第一種是直接跳兩級,第二種是先跳一級,然後再跳一級。即f(2) = 2;
- 當只有1級臺階時,只有一種跳法,即f(1)= 1;
因此可以用遞迴去解決這個問題:
class Solution {
public int numWays(int n) {
if(n == 1){
return 1;
}
if(n == 2){
return 2;
}
return numWays(n-1) + numWays(n-2);
}
}
去leetcode提交一下,發現有問題,超出時間限制了
為什麼超時了呢?遞迴耗時在哪裡呢?先畫出遞迴樹看看:
- 要計算原問題 f(10),就需要先計算出子問題 f(9) 和 f(8)
- 然後要計算 f(9),又要先算出子問題 f(8) 和 f(7),以此類推。
- 一直到 f(2) 和 f(1),遞迴樹才終止。
我們先來看看這個遞迴的時間複雜度吧:
遞迴時間複雜度 = 解決一個子問題時間*子問題個數
- 一個子問題時間 = f(n-1)+f(n-2),也就是一個加法的操作,所以複雜度是 O(1);
- 問題個數 = 遞迴樹節點的總數,遞迴樹的總節點 = 2^n-1,所以是複雜度O(2^n)。
因此,青蛙跳階,遞迴解法的時間複雜度 = O(1) * O(2^n) = O(2^n),就是指數級別的,爆炸增長的,如果n比較大的話,超時很正常的了。
回過頭來,你仔細觀察這顆遞迴樹,你會發現存在大量重複計算,比如f(8)被計算了兩次,f(7)被重複計算了3次...所以這個遞迴演算法低效的原因,就是存在大量的重複計算!
既然存在大量重複計算,那麼我們可以先把計算好的答案存下來,即造一個備忘錄,等到下次需要的話,先去備忘錄查一下,如果有,就直接取就好了,備忘錄沒有才開始計算,那就可以省去重新重複計算的耗時啦!這就是帶備忘錄的解法。
帶備忘錄的遞迴解法(自頂向下)
一般使用一個數組或者一個雜湊map充當這個備忘錄。
- 第一步,f(10)= f(9) + f(8),f(9) 和f(8)都需要計算出來,然後再加到備忘錄中,如下:
- 第二步, f(9) = f(8)+ f(7),f(8)= f(7)+ f(6), 因為 f(8) 已經在備忘錄中啦,所以可以省掉,f(7),f(6)都需要計算出來,加到備忘錄中~
第三步, f(8) = f(7)+ f(6),發現f(8),f(7),f(6)全部都在備忘錄上了,所以都可以剪掉。
所以呢,用了備忘錄遞迴演算法,遞迴樹變成光禿禿的樹幹咯,如下:
帶備忘錄的遞迴演算法,子問題個數=樹節點數=n,解決一個子問題還是O(1),所以帶備忘錄的遞迴演算法的時間複雜度是O(n)。接下來呢,我們用帶備忘錄的遞迴演算法去擼程式碼,解決這個青蛙跳階問題的超時問題咯~,程式碼如下:
public class Solution {
//使用雜湊map,充當備忘錄的作用
Map<Integer, Integer> tempMap = new HashMap();
public int numWays(int n) {
// n = 0 也算1種
if (n == 0) {
return 1;
}
if (n <= 2) {
return n;
}
//先判斷有沒計算過,即看看備忘錄有沒有
if (tempMap.containsKey(n)) {
//備忘錄有,即計算過,直接返回
return tempMap.get(n);
} else {
// 備忘錄沒有,即沒有計算過,執行遞迴計算,並且把結果儲存到備忘錄map中,對1000000007取餘(這個是leetcode題目規定的)
tempMap.put(n, (numWays(n - 1) + numWays(n - 2)) % 1000000007);
return tempMap.get(n);
}
}
}
去leetcode提交一下,如圖,穩了:
其實,還可以用動態規劃解決這道題。
自底向上的動態規劃
動態規劃跟帶備忘錄的遞迴解法基本思想是一致的,都是減少重複計算,時間複雜度也都是差不多。但是呢:
- 帶備忘錄的遞迴,是從f(10)往f(1)方向延伸求解的,所以也稱為自頂向下的解法。
- 動態規劃從較小問題的解,由交疊性質,逐步決策出較大問題的解,它是從f(1)往f(10)方向,往上推求解,所以稱為自底向上的解法。
動態規劃有幾個典型特徵,最優子結構、狀態轉移方程、邊界、重疊子問題。在青蛙跳階問題中:
- f(n-1)和f(n-2) 稱為 f(n) 的最優子結構
- f(n)= f(n-1)+f(n-2)就稱為狀態轉移方程
- f(1) = 1, f(2) = 2 就是邊界啦
- 比如f(10)= f(9)+f(8),f(9) = f(8) + f(7) ,f(8)就是重疊子問題。
我們來看下自底向上的解法,從f(1)往f(10)方向,想想是不是直接一個for迴圈就可以解決啦,如下:
帶備忘錄的遞迴解法,空間複雜度是O(n),但是呢,仔細觀察上圖,可以發現,f(n)只依賴前面兩個數,所以只需要兩個變數a和b來儲存,就可以滿足需求了,因此空間複雜度是O(1)就可以啦
動態規劃實現程式碼如下:
public class Solution {
public int numWays(int n) {
if (n<= 1) {
return 1;
}
if (n == 2) {
return 2;
}
int a = 1;
int b = 2;
int temp = 0;
for (int i = 3; i <= n; i++) {
temp = (a + b)% 1000000007;
a = b;
b = temp;
}
return temp;
}
}
動態規劃的解題套路
什麼樣的問題可以考慮使用動態規劃解決呢?
如果一個問題,可以把所有可能的答案窮舉出來,並且窮舉出來後,發現存在重疊子問題,就可以考慮使用動態規劃。
比如一些求最值的場景,如最長遞增子序列、最小編輯距離、揹包問題、湊零錢問題等等,都是動態規劃的經典應用場景。
動態規劃的解題思路
動態規劃的核心思想就是拆分子問題,記住過往,減少重複計算。 並且動態規劃一般都是自底向上的,因此到這裡,基於青蛙跳階問題,我總結了一下我做動態規劃的思路:
- 窮舉分析
- 確定邊界
- 找出規律,確定最優子結構
- 寫出狀態轉移方程
1. 窮舉分析
- 當臺階數是1的時候,有一種跳法,f(1) =1
- 當只有2級臺階時,有兩種跳法,第一種是直接跳兩級,第二種是先跳一級,然後再跳一級。即f(2) = 2;
- 當臺階是3級時,想跳到第3級臺階,要麼是先跳到第2級,然後再跳1級臺階上去,要麼是先跳到第 1級,然後一次邁 2 級臺階上去。所以f(3) = f(2) + f(1) =3
- 當臺階是4級時,想跳到第3級臺階,要麼是先跳到第3級,然後再跳1級臺階上去,要麼是先跳到第 2級,然後一次邁 2 級臺階上去。所以f(4) = f(3) + f(2) =5
- 當臺階是5級時......
2. 確定邊界
通過窮舉分析,我們發現,當臺階數是1的時候或者2的時候,可以明確知道青蛙跳法。f(1) =1,f(2) = 2,當臺階n>=3時,已經呈現出規律f(3) = f(2) + f(1) =3,因此f(1) =1,f(2) = 2就是青蛙跳階的邊界。
3. 找規律,確定最優子結構
n>=3時,已經呈現出規律 f(n) = f(n-1) + f(n-2) ,因此,f(n-1)和f(n-2) 稱為 f(n) 的最優子結構。什麼是最優子結構?有這麼一個解釋:
一道動態規劃問題,其實就是一個遞推問題。假設當前決策結果是f(n),則最優子結構就是要讓 f(n-k) 最優,最優子結構性質就是能讓轉移到n的狀態是最優的,並且與後面的決策沒有關係,即讓後面的決策安心地使用前面的區域性最優解的一種性質
4, 寫出狀態轉移方程
通過前面3步,窮舉分析,確定邊界,最優子結構,我們就可以得出狀態轉移方程啦:
5. 程式碼實現
我們實現程式碼的時候,一般注意從底往上遍歷哈,然後關注下邊界情況,空間複雜度,也就差不多啦。動態規劃有個框架的,大家實現的時候,可以考慮適當參考一下:
dp[0][0][...] = 邊界值
for(狀態1 :所有狀態1的值){
for(狀態2 :所有狀態2的值){
for(...){
//狀態轉移方程
dp[狀態1][狀態2][...] = 求最值
}
}
}
leetcode案例分析
我們一起來分析一道經典leetcode題目吧
給你一個整數陣列 nums ,找到其中最長嚴格遞增子序列的長度。
示例 1:
輸入:nums = [10,9,2,5,3,7,101,18]
輸出:4
解釋:最長遞增子序列是 [2,3,7,101],因此長度為 4 。
示例 2:
輸入:nums = [0,1,0,3,2,3]
輸出:4
我們按照以上動態規劃的解題思路,
- 窮舉分析
- 確定邊界
- 找規律,確定最優子結構
- 狀態轉移方程
1.窮舉分析
因為動態規劃,核心思想包括拆分子問題,記住過往,減少重複計算。 所以我們在思考原問題:陣列num[i]的最長遞增子序列長度時,可以思考下相關子問題,比如原問題是否跟子問題num[i-1]的最長遞增子序列長度有關呢?
自頂向上的窮舉
這裡觀察規律,顯然是有關係的,我們還是遵循動態規劃自底向上的原則,基於示例1的資料,從陣列只有一個元素開始分析。
- 當nums只有一個元素10時,最長遞增子序列是[10],長度是1.
- 當nums需要加入一個元素9時,最長遞增子序列是[10]或者[9],長度是1。
- 當nums再加入一個元素2時,最長遞增子序列是[10]或者[9]或者[2],長度是1。
- 當nums再加入一個元素5時,最長遞增子序列是[2,5],長度是2。
- 當nums再加入一個元素3時,最長遞增子序列是[2,5]或者[2,3],長度是2。
- 當nums再加入一個元素7時,,最長遞增子序列是[2,5,7]或者[2,3,7],長度是3。
- 當nums再加入一個元素101時,最長遞增子序列是[2,5,7,101]或者[2,3,7,101],長度是4。
- 當nums再加入一個元素18時,最長遞增子序列是[2,5,7,101]或者[2,3,7,101]或者[2,5,7,18]或者[2,3,7,18],長度是4。
- 當nums再加入一個元素7時,最長遞增子序列是[2,5,7,101]或者[2,3,7,101]或者[2,5,7,18]或者[2,3,7,18],長度是4.
分析找規律,拆分子問題
通過上面分析,我們可以發現一個規律:
如果新加入一個元素nums[i], 最長遞增子序列要麼是以nums[i]結尾的遞增子序列,要麼就是nums[i-1]的最長遞增子序列。看到這個,是不是很開心,nums[i]的最長遞增子序列已經跟子問題 nums[i-1]的最長遞增子序列有關聯了。
原問題陣列nums[i]的最長遞增子序列 = 子問題陣列nums[i-1]的最長遞增子序列/nums[i]結尾的最長遞增子序列
是不是感覺成功了一半呢?但是如何把nums[i]結尾的遞增子序列也轉化為對應的子問題呢?要是nums[i]結尾的遞增子序列也跟nums[i-1]的最長遞增子序列有關就好了。又或者nums[i]結尾的最長遞增子序列,跟前面子問題num[j](0=<j<i)結尾的最長遞增子序列有關就好了,帶著這個想法,我們又回頭看看窮舉的過程:
nums[i]的最長遞增子序列,不就是從以陣列num[i]每個元素結尾的最長子序列集合,取元素最多(也就是長度最長)那個嘛,所以原問題,我們轉化成求出以陣列nums每個元素結尾的最長子序列集合,再取最大值嘛。哈哈,想到這,我們就可以用dp[i]表示以num[i]這個數結尾的最長遞增子序列的長度啦,然後再來看看其中的規律:
其實,nums[i]結尾的自增子序列,只要找到比nums[i]小的子序列,加上nums[i] 就可以啦。顯然,可能形成多種新的子序列,我們選最長那個,就是dp[i]的值啦
- nums[3]=5,以
5
結尾的最長子序列就是[2,5]
,因為從陣列下標0到3
遍歷,只找到了子序列[2]
比5
小,所以就是[2]+[5]
啦,即dp[4]=2
- nums[4]=3,以
3
結尾的最長子序列就是[2,3]
,因為從陣列下標0到4
遍歷,只找到了子序列[2]
比3
小,所以就是[2]+[3]
啦,即dp[4]=2
- nums[5]=7,以
7
結尾的最長子序列就是[2,5,7]
和[2,3,7]
,因為從陣列下標0到5
遍歷,找到2,5和3
都比7小,所以就有[2,7],[5,7],[3,7],[2,5,7]和[2,3,7]
這些子序列,最長子序列就是[2,5,7]和[2,3,7]
,它倆不就是以5
結尾和3
結尾的最長遞增子序列+[7]來的嘛!所以,dp[5]=3 =dp[3]+1=dp[4]+1
。
很顯然有這個規律:一個以nums[i]結尾的陣列nums
- 如果存在j屬於區間[0,i-1],並且num[i]>num[j]的話,則有,dp(i) =max(dp(j))+1,
最簡單的邊界情況
當nums陣列只有一個元素時,最長遞增子序列的長度dp(1)=1,當nums陣列有兩個元素時,dp(2) =2或者1, 因此邊界就是dp(1)=1。
確定最優子結構
從窮舉分析,我們可以得出,以下的最優結構:
dp(i) =max(dp(j))+1,存在j屬於區間[0,i-1],並且num[i]>num[j]。
max(dp(j)) 就是最優子結構。
狀態轉移方程
通過前面分析,我們就可以得出狀態轉移方程啦:
所以陣列num[i]的最長遞增子序列就是:
最長遞增子序列 =max(dp[i])
程式碼實現
class Solution {
public int lengthOfLIS(int[] nums) {
if (nums.length == 0) {
return 0;
}
int[] dp = new int[nums.length];
//初始化就是邊界情況
dp[0] = 1;
int maxans = 1;
//自底向上遍歷
for (int i = 1; i < nums.length; i++) {
dp[i] = 1;
//從下標0到i遍歷
for (int j = 0; j < i; j++) {
//找到前面比nums[i]小的數nums[j],即有dp[i]= dp[j]+1
if (nums[j] < nums[i]) {
//因為會有多個小於nums[i]的數,也就是會存在多種組合了嘛,我們就取最大放到dp[i]
dp[i] = Math.max(dp[i], dp[j] + 1);
}
}
//求出dp[i]後,dp最大那個就是nums的最長遞增子序列啦
maxans = Math.max(maxans, dp[i]);
}
return maxans;
}
}