小波變換由來 https://blog.csdn.net/zhaomengszu/article/details/72628015
https://blog.csdn.net/zhaomengszu/article/details/72628015
本文首先介紹了從傅立葉變換到小波變換的發展史，然後著重強調了小波變換的兩種作用——時頻分析和多解析度分析，最後講了一下吉布斯效應等相關知識。
小波的發展歷史與驅動
傅立葉變換
FT（傅立葉變換），通過將訊號分解成正餘弦函式（把三角函式當做函式空間的基），將時域訊號轉化為頻域訊號。缺點是隻適用於平穩性訊號，在頻域圖上不能獲得對應頻率的時間資訊。
由上圖可以看到，對於頻域成分相同的訊號，即使訊號在時域上的分佈不一樣，FFT變換後的頻域圖卻幾乎完全一樣。所以說，FFT只可以獲得一段訊號總體上包含哪些成分，但是對各成分出現的時間並無所知。因此時域相差很大的訊號FFT之後的頻域圖可能完全相同。
短時傅立葉變換
STFT（短時傅立葉變換）新增時域資訊的方法是設定窗格，認為窗格內的訊號是平穩訊號，對窗格內的訊號分段進行FT分析。優點是可以獲得頻域資訊的同時可以獲得時域資訊。缺點是窗格大小很難設定。
STFT的方法及效果如下圖：
STFT的窗格問題如下：
由上面的圖可以看到，窄視窗時間解析度高、頻率解析度低；寬視窗時間解析度低，頻率解析度高。對於時變的非穩態訊號，高頻適合小視窗，低頻適合大視窗。可是STFT的視窗是固定的，因此需要尋求別的方法。
小波變換
WT（小波變換），將傅立葉變換的基給換了—— 將無限長的三角函式基換成了有限長的會衰減的小波基，這樣不僅可以獲取頻率，還可以定位到時間。
傅立葉變換
傅立葉變換，通過相互正交的三角函式訊號和原訊號在無窮上進行積分，積分越大表明訊號越相似，包含該頻率的三角訊號也就越多。
最後，每一個f值對應了一個積分值，獲得了頻率圖。
小波變換
小波變換的原理類似傅立葉變換，只是把三角函式基換成了小波基。
與傅立葉變換不同，小波變換有兩個變數：scale和translation。scale控制小波函式的收縮，其導數即為頻率，translation控制小標函式的平移，平移量對應時間。
通過訊號的伸縮平移，可以得到某種重合情況，這樣積分也會得到一個極大值，不同的是，得到頻率成分的同時，還可以知道該頻率的時間位置。
最後得到的也是三維的影象：
三種變換的對比
傅立葉變換，選擇正弦函式作為基函式，然後考察的到的展開式的性質。
對於小波分析，首先提出想要的性質，然後推匯出基函式。
小波變換
離散小波變換
\begin{split} f(t)&=\sum_{j,k} a_{j,k} 2^{j/2}\psi(2^j t -k) \\ f(t)&=\sum_{j,k} a_{j,k} \psi_{j,k}( t ) \\ f(t)&=\sum_{j,k} \left<\psi_{j,k} ,f(t) \right> \psi_{j,k}( t )連續小波變換
小波的多解析度闡述
小波的一個思想是在時間和頻率兩個方面提供有效的區域性化，另一箇中心思想是多解析度，即訊號的分解是按照不同解析度的細節一層一層進行的。
訊號空間
。
尺度函式
對於二維函式族（構成空間的基底）：
對於所有，可以張成空間：
如果可以表示為：
也就是說，越大，解析度越高。
多解析度分析
低解析度上的訊號，不僅可以通過該低解析度上的訊號基底組合，還可以通過高解析度上訊號的基底組合起來。
尺度函式張成。
由下圖所示：
初始空間的尺度是任意的，可以選擇較高的解析度，例如，則有：
這樣，就構造了能張成整個，可以寫成尺度函式和小波函式的級數展開，即：
在這個展開式中，第一個和式給出了的增加，一個個較高的或者較細解析度的函式不停地加入，從而加進了更多的細節資訊。
多解析度流程
- 選擇合適的尺度基和小波基，從已有的訊號中反算出係數。
- 對係數做對應處理
- 從處理後的係數重新構建訊號
wavelet function等同於對訊號做高通濾波保留變化細節，而scaling function等同於對訊號做低通濾波保留平滑的形狀！
其他
突變訊號與吉布斯效應
吉布斯效應：
Gibbs現象是由於展開式在間斷點鄰域不能均勻收斂引起的，即使N趨於無窮大，這一現象仍然存在。通俗地講，就是變化太大的時候，三角波擬合不過來，只能湊合出來個Gibbs應付應付啦。 
小波與吉布斯：
小波比傅立葉擬合突變訊號效果更好，還可以根據不同的需要更換小波基以獲得更好的效果。 
海森堡不確定原理
不確定性原理，或者叫測不準原理，最早出自量子力學，意為在微觀世界，粒子的位置與動量不可同時被確定。但是這個原理並不侷限於量子力學，有很多物理量都有這樣的特徵，比如能量和時間、角動量和角度。體現在訊號領域就是時域和頻域。不過更準確一點的表述應該是：一個訊號不能在時空域和頻域上同時過於集中；一個函式時域越“窄”，它經傅立葉變換的頻域後就越“寬”。
如果有興趣深入研究一下的話，這個原理其實非常耐人尋味。訊號處理中的一些新理論在根本上也和它有所相連，比如壓縮感知。如果你剝開它複雜的數學描述，最後會發現它在本質上能實現其實和不確定性原理密切相關。而且大家不覺得這樣一些矛盾的東西在哲學意義上也很奇妙嗎？
作者：咚懂咚懂咚
連結：https://www.zhihu.com/question/22864189/answer/40772083
降維
高維資料因為其計算代價昂貴（緯度高計算必然昂貴）和建立索引結構的困難（空間索引結構往往面臨著“維度災”），因此有對其進行資料壓縮的需求，即對高維資料進行降維，傅立葉變換和小波變換都可以用來做這件事，具體說來就是，傅立葉變換用不同頻率的三角函式的和去擬合原始訊號，對於每個單獨的三角函式，只需要記錄其相位和幅度即可。資訊理論可以證明，對於一個長度為n的離散訊號（計算機中所有的訊號都肯定是離散的），可以分解為n個三角函式的線性組合，這n個三角函式的頻率是按2的指數倍遞增的，這兩種表示方法是等價的，也就是從後者（三角函式的資訊：相位、幅度）可以完美地重構出前者。而原始訊號中的主要資訊都集中在低頻分量上，高頻分量往往是噪音，因此我們可以對變換後的三角函式係數只保留其前k個係數，而忽略剩餘的高頻部分，這樣就將資料降為了k維，由於高頻大多是噪音，因此丟失資訊並不多。
以上說的是傅立葉變換，小波變換也是一樣的，只不過它使用的基底函式不是三角函式，而是所謂的小波函式，所謂“小波函式”是一族函式，需要滿足1.均值為0；2.在時域和頻域都區域性化（不是蔓延整個座標軸的），滿足這兩條的函式就是小波函式，有很多，最簡單的是Haar Wavelet。所以小波分析或者說小波變換要做的就是將原始訊號表示為一組小波基的線性組合，然後通過忽略其中不重要的部分達到資料壓縮或者說降維的目的。
作者：chris sun
連結：https://www.zhihu.com/question/19725983/answer/13856998
視窗化
小波母函式必須在定義域大部分都為0，不為0的部分也是基本是有限值，這樣的母函式有利於視窗化。
如果只對某一段區域有興趣，只需要對映到只在這個區域取值非0 的小波基，而傅立葉變換做不到。這就是小波的好處，所以小波又被稱為數學顯微鏡。
本文首先介紹了從傅立葉變換到小波變換的發展史，然後著重強調了小波變換的兩種作用——時頻分析和多解析度分析，最後講了一下吉布斯效應等相關知識。
小波的發展歷史與驅動
傅立葉變換
FT（傅立葉變換），通過將訊號分解成正餘弦函式（把三角函式當做函式空間的基），將時域訊號轉化為頻域訊號。缺點是隻適用於平穩性訊號，在頻域圖上不能獲得對應頻率的時間資訊。
由上圖可以看到，對於頻域成分相同的訊號，即使訊號在時域上的分佈不一樣，FFT變換後的頻域圖卻幾乎完全一樣。所以說，FFT只可以獲得一段訊號總體上包含哪些成分，但是對各成分出現的時間並無所知。因此時域相差很大的訊號FFT之後的頻域圖可能完全相同。
短時傅立葉變換
STFT（短時傅立葉變換）新增時域資訊的方法是設定窗格，認為窗格內的訊號是平穩訊號，對窗格內的訊號分段進行FT分析。優點是可以獲得頻域資訊的同時可以獲得時域資訊。缺點是窗格大小很難設定。
STFT的方法及效果如下圖：
STFT的窗格問題如下：
由上面的圖可以看到，窄視窗時間解析度高、頻率解析度低；寬視窗時間解析度低，頻率解析度高。對於時變的非穩態訊號，高頻適合小視窗，低頻適合大視窗。可是STFT的視窗是固定的，因此需要尋求別的方法。
小波變換
WT（小波變換），將傅立葉變換的基給換了—— 將無限長的三角函式基換成了有限長的會衰減的小波基，這樣不僅可以獲取頻率，還可以定位到時間。
傅立葉變換
傅立葉變換，通過相互正交的三角函式訊號和原訊號在無窮上進行積分，積分越大表明訊號越相似，包含該頻率的三角訊號也就越多。
最後，每一個f值對應了一個積分值，獲得了頻率圖。
小波變換
小波變換的原理類似傅立葉變換，只是把三角函式基換成了小波基。
與傅立葉變換不同，小波變換有兩個變數：scale和translation。scale控制小波函式的收縮，其導數即為頻率，translation控制小標函式的平移，平移量對應時間。
通過訊號的伸縮平移，可以得到某種重合情況，這樣積分也會得到一個極大值，不同的是，得到頻率成分的同時，還可以知道該頻率的時間位置。
最後得到的也是三維的影象：
三種變換的對比
傅立葉變換，選擇正弦函式作為基函式，然後考察的到的展開式的性質。
對於小波分析，首先提出想要的性質，然後推匯出基函式。
小波變換
離散小波變換
\begin{split} f(t)&=\sum_{j,k} a_{j,k} 2^{j/2}\psi(2^j t -k) \\ f(t)&=\sum_{j,k} a_{j,k} \psi_{j,k}( t ) \\ f(t)&=\sum_{j,k} \left<\psi_{j,k} ,f(t) \right> \psi_{j,k}( t )連續小波變換
小波的多解析度闡述
小波的一個思想是在時間和頻率兩個方面提供有效的區域性化，另一箇中心思想是多解析度，即訊號的分解是按照不同解析度的細節一層一層進行的。
訊號空間
。
尺度函式
對於二維函式族（構成空間的基底）：
對於所有，可以張成空間：
如果可以表示為：
也就是說，越大，解析度越高。
多解析度分析
低解析度上的訊號，不僅可以通過該低解析度上的訊號基底組合，還可以通過高解析度上訊號的基底組合起來。
尺度函式張成。
由下圖所示：
初始空間的尺度是任意的，可以選擇較高的解析度，例如，則有：
這樣，就構造了能張成整個，可以寫成尺度函式和小波函式的級數展開，即：
在這個展開式中，第一個和式給出了的增加，一個個較高的或者較細解析度的函式不停地加入，從而加進了更多的細節資訊。
多解析度流程
- 選擇合適的尺度基和小波基，從已有的訊號中反算出係數。
- 對係數做對應處理
- 從處理後的係數重新構建訊號
wavelet function等同於對訊號做高通濾波保留變化細節，而scaling function等同於對訊號做低通濾波保留平滑的形狀！
其他
突變訊號與吉布斯效應
吉布斯效應：
Gibbs現象是由於展開式在間斷點鄰域不能均勻收斂引起的，即使N趨於無窮大，這一現象仍然存在。通俗地講，就是變化太大的時候，三角波擬合不過來，只能湊合出來個Gibbs應付應付啦。
小波與吉布斯：
小波比傅立葉擬合突變訊號效果更好，還可以根據不同的需要更換小波基以獲得更好的效果。
海森堡不確定原理
不確定性原理，或者叫測不準原理，最早出自量子力學，意為在微觀世界，粒子的位置與動量不可同時被確定。但是這個原理並不侷限於量子力學，有很多物理量都有這樣的特徵，比如能量和時間、角動量和角度。體現在訊號領域就是時域和頻域。不過更準確一點的表述應該是：一個訊號不能在時空域和頻域上同時過於集中；一個函式時域越“窄”，它經傅立葉變換的頻域後就越“寬”。
如果有興趣深入研究一下的話，這個原理其實非常耐人尋味。訊號處理中的一些新理論在根本上也和它有所相連，比如壓縮感知。如果你剝開它複雜的數學描述，最後會發現它在本質上能實現其實和不確定性原理密切相關。而且大家不覺得這樣一些矛盾的東西在哲學意義上也很奇妙嗎？
作者：咚懂咚懂咚
連結：https://www.zhihu.com/question/22864189/answer/40772083
降維
高維資料因為其計算代價昂貴（緯度高計算必然昂貴）和建立索引結構的困難（空間索引結構往往面臨著“維度災”），因此有對其進行資料壓縮的需求，即對高維資料進行降維，傅立葉變換和小波變換都可以用來做這件事，具體說來就是，傅立葉變換用不同頻率的三角函式的和去擬合原始訊號，對於每個單獨的三角函式，只需要記錄其相位和幅度即可。資訊理論可以證明，對於一個長度為n的離散訊號（計算機中所有的訊號都肯定是離散的），可以分解為n個三角函式的線性組合，這n個三角函式的頻率是按2的指數倍遞增的，這兩種表示方法是等價的，也就是從後者（三角函式的資訊：相位、幅度）可以完美地重構出前者。而原始訊號中的主要資訊都集中在低頻分量上，高頻分量往往是噪音，因此我們可以對變換後的三角函式係數只保留其前k個係數，而忽略剩餘的高頻部分，這樣就將資料降為了k維，由於高頻大多是噪音，因此丟失資訊並不多。
以上說的是傅立葉變換，小波變換也是一樣的，只不過它使用的基底函式不是三角函式，而是所謂的小波函式，所謂“小波函式”是一族函式，需要滿足1.均值為0；2.在時域和頻域都區域性化（不是蔓延整個座標軸的），滿足這兩條的函式就是小波函式，有很多，最簡單的是Haar Wavelet。所以小波分析或者說小波變換要做的就是將原始訊號表示為一組小波基的線性組合，然後通過忽略其中不重要的部分達到資料壓縮或者說降維的目的。
作者：chris sun
連結：https://www.zhihu.com/question/19725983/answer/13856998
視窗化
小波母函式必須在定義域大部分都為0，不為0的部分也是基本是有限值，這樣的母函式有利於視窗化。
如果只對某一段區域有興趣，只需要對映到只在這個區域取值非0 的小波基，而傅立葉變換做不到。這就是小波的好處，所以小波又被稱為數學顯微鏡。