尖峰神經網路/脈衝神經網路(spiking neural network, snn)

  是三代神經網路模型，屬於計算神經科學，動物的神經網路大多是脈衝神經網路。
  資料不多，而且大多是外文

  本來想用它處理音訊事件的，看了一段時間後發現，就目前而且，它好像不太適合處理音訊這樣的時序訊號，更適合處理影象。所以大多論文也是把音訊轉化為影象資訊後，進行影象處理，然後再轉回到音訊。
  不過，現在還是CNN更實用，SNN是未來趨勢。
  想拿這個找工作，那你就是想多了。第二代神經網路才是目前工業界的主流。SNN這種第三代網路，目前更多的是活躍在學術界。SNN充滿前景，但是目前還不是主流。

名詞解釋

  除了神經元和突觸的狀態，SNNS也結合時間的概念到他們的運作模式。這個想法是SNN 中的神經元不會在每個傳播週期中發射（就像在典型的多層感知器網路中發生的那樣），而是僅在膜電位 - 與其膜電荷有關的神經元的內在質量 - 達到特定值。當一個神經元發生火災時，它會產生一個訊號傳播到其他神經元，然後根據這個訊號增加或減少它們的電位。
  由於脈衝神經網路傳遞的是一個個脈衝，它們組成了一個脈衝序列，單個脈衝之間的時間間隔不一定，脈衝序列中蘊含了temporal information，這是傳統的人工神經網路所不能表達的。 除此之外，脈衝神經網路中的每個神經元只有接收到一個脈衝時，才需要進行計算，功耗更低，計算更快；而傳統人工神經網路需要一層層的計算，計算量要大很多。
  時間編碼表明單個尖峰神經元可以代替S形神經網路上的數百個隱藏單元。

  另外，用隨機脈衝而非模擬數值可以被看做 dropout 在神經系統中的實現形式。這個論點基於統計，即大腦中的引數量非常大(10^14)，相比之下可用的訓練資料量則很少。訓練一個遠大於資料的模型要避免過擬合。其中一個方法是 dropout：在每次訓練時隨機忽略一些單元。這樣就可以實現引數的正則化（regularization）。