神經網路結構與輸出值之間的關係
本文統計了在學習率,權重初始化標準和收斂標準都不變的情況下神經網路的結構對輸出值得影響
比如圖示的網路用11*11表示,本文收集了從2*2 到35*35的資料
a |
b |
迭代次數 |
a>0.5 |
數量 |
a<0.5 |
數量 |
|
2*2 |
0.501725 |
0.501025 |
1727143 |
0.506531 |
107 |
0.496195 |
93 |
3*3 |
0.501739 |
0.501239 |
856043.1 |
0.506535 |
105 |
0.496438 |
95 |
4*4 |
0.501742 |
0.501142 |
622167.2 |
0.506452 |
106 |
0.496431 |
94 |
5*5 |
0.501102 |
0.501702 |
558111.4 |
0.506497 |
94 |
0.496318 |
106 |
6*6 |
0.501764 |
0.501064 |
535387.6 |
0.506454 |
107 |
0.496368 |
93 |
7*7 |
0.501881 |
0.501181 |
589825.6 |
0.506547 |
107 |
0.496514 |
93 |
8*8 |
0.500504 |
0.502404 |
555818.1 |
0.506532 |
81 |
0.496401 |
119 |
9*9 |
0.501592 |
0.501292 |
554611.5 |
0.506504 |
103 |
0.496377 |
97 |
10*10 |
0.501511 |
0.501411 |
569645.4 |
0.506556 |
101 |
0.496363 |
99 |
11*11 |
0.501781 |
0.501381 |
591014.9 |
0.506632 |
104 |
0.496526 |
96 |
12*12 |
0.501255 |
0.501755 |
599936.9 |
0.506499 |
95 |
0.496511 |
105 |
13*13 |
0.501229 |
0.502029 |
616165.2 |
0.50657 |
92 |
0.49668 |
108 |
14*14 |
0.501513 |
0.501613 |
615826.2 |
0.506607 |
99 |
0.496519 |
101 |
15*15 |
0.502192 |
0.501092 |
630735 |
0.506714 |
111 |
0.496552 |
89 |
16*16 |
0.501363 |
0.501963 |
643422.3 |
0.506717 |
94 |
0.496615 |
106 |
17*17 |
0.501345 |
0.502045 |
653491.6 |
0.506698 |
93 |
0.496692 |
107 |
18*18 |
0.501972 |
0.501472 |
669932.1 |
0.506689 |
105 |
0.496759 |
95 |
19*19 |
0.500927 |
0.502327 |
663836.9 |
0.506566 |
86 |
0.496672 |
114 |
20*20 |
0.501389 |
0.502189 |
703333.7 |
0.506813 |
92 |
0.496769 |
108 |
21*21 |
0.502206 |
0.501306 |
694105.8 |
0.506747 |
109 |
0.496768 |
91 |
22*22 |
0.501445 |
0.502145 |
710521.9 |
0.506866 |
93 |
0.496734 |
107 |
23*23 |
0.501873 |
0.501773 |
719971.3 |
0.506835 |
101 |
0.49681 |
99 |
24*24 |
0.501561 |
0.502061 |
702123.9 |
0.506779 |
95 |
0.49684 |
105 |
25*25 |
0.502251 |
0.501551 |
717297.5 |
0.506889 |
107 |
0.496915 |
93 |
26*26 |
0.501535 |
0.502135 |
725809.9 |
0.506841 |
94 |
0.496829 |
106 |
27*27 |
0.501945 |
0.501745 |
727087.3 |
0.506833 |
102 |
0.496858 |
98 |
28*28 |
0.501269 |
0.502369 |
723658.6 |
0.50678 |
89 |
0.496851 |
111 |
29*29 |
0.502532 |
0.501332 |
728437.2 |
0.506977 |
112 |
0.496875 |
88 |
30*30 |
0.501948 |
0.501848 |
726516.2 |
0.506939 |
101 |
0.496857 |
99 |
31*31 |
0.502448 |
0.501448 |
730641.1 |
0.506975 |
110 |
0.496916 |
90 |
32*32 |
0.501784 |
0.502384 |
738450.4 |
0.507033 |
94 |
0.497129 |
106 |
33*33 |
0.50224 |
0.50194 |
739203.6 |
0.507056 |
103 |
0.497126 |
97 |
34*34 |
0.501618 |
0.502518 |
730357.6 |
0.507074 |
91 |
0.497063 |
109 |
35*35 |
0.502096 |
0.502396 |
751763.7 |
0.507339 |
97 |
0.497159 |
103 |
權重初始化方式
tw[a][b]=(double)ti1/200;
收斂標準
Math.abs(jud[0]-jud[1])>0.01
學習率
ret=0.1
a值得曲線看起來規律並不明顯
但是如果統計a>0.5
或者統計a<0.5
可以發現非常明顯隨著網路結構的增加,收斂出的輸出值也在增加,可以合理的推測如果收集的樣本數量不是200組而是2000組合2萬組得到的曲線應該光滑的多。
所以神經網路的輸出值是判斷網路結構的相當有參考價值的指標,輸出值的變化可以很好的反應網路結構的變化。
本文所用資料同《用神經網路模擬分子:資料重複性檢測 》的資料。