排序演算法的介紹

排序也稱排序演算法(Sort Algorithm)，排序是將一組資料，依指定的順序進行排列的過程。

排序的分類：

1. 內部排序:

指將需要處理的所有資料都載入到內部儲存器(記憶體)中進行排序。

1. 外部排序法：

資料量過大，無法全部載入到記憶體中，需要藉助外部儲存(檔案等)進行排序。

1. 常見的排序演算法分類(見右圖):

演算法的時間複雜度

度量一個程式(演算法)執行時間的兩種方法

1. 事後統計的方法

這種方法可行, 但是有兩個問題：一是要想對設計的演算法的執行效能進行評測，需要實際執行該程式；二是所得時間的統計量依賴於計算機的硬體、軟體等環境因素, 這種方式，要在同一臺計算機的相同狀態下執行，才能比

較那個演算法速度更快。

1. 事前估算的方法

通過分析某個演算法的時間複雜度來判斷哪個演算法更優.

時間頻度

• 基本介紹

時間頻度：一個演算法花費的時間與演算法中語句的執行次數成正比例，哪個演算法中語句執行次數多，它花費時間就多。一個演算法中的語句執行次數稱為語句頻度或時間頻度。記為 T(n)。[舉例說明]

• 舉例說明-基本案例

比如計算 1-100 所有數字之和, 我們設計兩種演算法：

• 舉例說明-忽略常數項

結論:

1. 2n+20 和 2n 隨著 n 變大，執行曲線無限接近, 20 可以忽略
2. 3n+10 和 3n 隨著 n 變大，執行曲線無限接近, 10 可以忽略

• 舉例說明-忽略低次項

結論:

1. 2n^2+3n+10 和 2n^2 隨著 n 變大, 執行曲線無限接近, 可以忽略 3n+10
2. n^2+5n+20 和 n^2 隨著 n 變大,執行曲線無限接近, 可以忽略 5n+20

• 舉例說明-忽略係數

結論:

1. 隨著 n 值變大，5n^2+7n 和 3n^2 + 2n ，執行曲線重合, 說明 這種情況下, 5 和 3 可以忽略。
2. 而 n^3+5n 和 6n^3+4n ，執行曲線分離，說明多少次方式關鍵

時間複雜度

1. 一般情況下，演算法中的基本操作語句的重複執行次數是問題規模 n 的某個函式，用 T(n)表示，若有某個輔助函式 f(n)，使得當 n 趨近於無窮大時，T(n) / f(n) 的極限值為不等於零的常數，則稱 f(n)是 T(n)的同數量級函式。記作 T(n)=
   Ｏ( f(n) )，稱Ｏ( f(n) ) 為演算法的漸進時間複雜度，簡稱時間複雜度。
2. T(n) 不同，但時間複雜度可能相同。 如：T(n)=n²+7n+6 與 T(n)=3n²+2n+2 它們的 T(n) 不同，但時間複雜度相同，都為 O(n²)。
3. 計算時間複雜度的方法：

• 用常數 1 代替執行時間中的所有加法常數 T(n)=n²+7n+6 => T(n)=n²+7n+1
• 修改後的執行次數函式中，只保留最高階項 T(n)=n²+7n+1 => T(n) = n²
• 去除最高階項的係數 T(n) = n² => T(n) = n² => O(n²)

常見的時間複雜度

1. 常數階 O(1)
2. 對數階 O(log2n)
3. 線性階 O(n)
4. 線性對數階 O(nlog2n)
5. 平方階 O(n^2)
6. 立方階 O(n^3)
7. k 次方階 O(n^k)
8. 指數階 O(2^n)

常見的時間複雜度對應的圖:

說明：

1. 常見的演算法時間複雜度由小到大依次為：Ο(1)＜Ο(log2n)＜Ο(n)＜Ο(nlog2n)＜Ο(n2)＜Ο(n3)＜ Ο(nk) ＜ Ο(2n) ，隨著問題規模 n 的不斷增大，上述時間複雜度不斷增大，演算法的執行效率越低
2. 從圖中可見，我們應該儘可能避免使用指數階的演算法

1. 常數階 O(1)

1. 對數階 O(log2n)

1. 線性階 O(n)

1. 線性對數階 O(nlogN)

1. 平方階 O(n²)

1. 立方階 O(n³)、K 次方階 O(n^k)

說明：參考上面的 O(n²) 去理解就好了，O(n³)相當於三層 n 迴圈，其它的類似

平均時間複雜度和最壞時間複雜度

1. 平均時間複雜度是指所有可能的輸入例項均以等概率出現的情況下，該演算法的執行時間。
2. 最壞情況下的時間複雜度稱最壞時間複雜度。一般討論的時間複雜度均是最壞情況下的時間複雜度。這樣做的原因是：最壞情況下的時間複雜度是演算法在任何輸入例項上執行時間的界限，這就保證了演算法的執行時間不會比最壞情況更長。
3. 平均時間複雜度和最壞時間複雜度是否一致，和演算法有關(如圖:)。

演算法的空間複雜度簡介

基本介紹

1. 類似於時間複雜度的討論，一個演算法的空間複雜度(Space Complexity)定義為該演算法所耗費的儲存空間，它也是問題規模 n 的函式。
2. 空間複雜度(Space Complexity)是對一個演算法在執行過程中臨時佔用儲存空間大小的量度。有的演算法需要佔用的臨時工作單元數與解決問題的規模 n 有關，它隨著 n 的增大而增大，當 n 較大時，將佔用較多的儲存單元，例如快速排序和歸併排序演算法, 基數排序就屬於這種情況
3. 在做演算法分析時，主要討論的是時間複雜度。從使用者使用體驗上看，更看重的程式執行的速度。一些快取產品

(redis, memcache)和演算法(基數排序)本質就是用空間換時間.