1. 程式人生 > >神經網路結構與輸出值之間的關係

神經網路結構與輸出值之間的關係

本文統計了在學習率,權重初始化標準和收斂標準都不變的情況下神經網路的結構對輸出值得影響

比如圖示的網路用11*11表示,本文收集了從2*2 到35*35的資料

a

b

迭代次數

a>0.5

數量

a<0.5

數量

2*2

0.501725

0.501025

1727143

0.506531

107

0.496195

93

3*3

0.501739

0.501239

856043.1

0.506535

105

0.496438

95

4*4

0.501742

0.501142

622167.2

0.506452

106

0.496431

94

5*5

0.501102

0.501702

558111.4

0.506497

94

0.496318

106

6*6

0.501764

0.501064

535387.6

0.506454

107

0.496368

93

7*7

0.501881

0.501181

589825.6

0.506547

107

0.496514

93

8*8

0.500504

0.502404

555818.1

0.506532

81

0.496401

119

9*9

0.501592

0.501292

554611.5

0.506504

103

0.496377

97

10*10

0.501511

0.501411

569645.4

0.506556

101

0.496363

99

11*11

0.501781

0.501381

591014.9

0.506632

104

0.496526

96

12*12

0.501255

0.501755

599936.9

0.506499

95

0.496511

105

13*13

0.501229

0.502029

616165.2

0.50657

92

0.49668

108

14*14

0.501513

0.501613

615826.2

0.506607

99

0.496519

101

15*15

0.502192

0.501092

630735

0.506714

111

0.496552

89

16*16

0.501363

0.501963

643422.3

0.506717

94

0.496615

106

17*17

0.501345

0.502045

653491.6

0.506698

93

0.496692

107

18*18

0.501972

0.501472

669932.1

0.506689

105

0.496759

95

19*19

0.500927

0.502327

663836.9

0.506566

86

0.496672

114

20*20

0.501389

0.502189

703333.7

0.506813

92

0.496769

108

21*21

0.502206

0.501306

694105.8

0.506747

109

0.496768

91

22*22

0.501445

0.502145

710521.9

0.506866

93

0.496734

107

23*23

0.501873

0.501773

719971.3

0.506835

101

0.49681

99

24*24

0.501561

0.502061

702123.9

0.506779

95

0.49684

105

25*25

0.502251

0.501551

717297.5

0.506889

107

0.496915

93

26*26

0.501535

0.502135

725809.9

0.506841

94

0.496829

106

27*27

0.501945

0.501745

727087.3

0.506833

102

0.496858

98

28*28

0.501269

0.502369

723658.6

0.50678

89

0.496851

111

29*29

0.502532

0.501332

728437.2

0.506977

112

0.496875

88

30*30

0.501948

0.501848

726516.2

0.506939

101

0.496857

99

31*31

0.502448

0.501448

730641.1

0.506975

110

0.496916

90

32*32

0.501784

0.502384

738450.4

0.507033

94

0.497129

106

33*33

0.50224

0.50194

739203.6

0.507056

103

0.497126

97

34*34

0.501618

0.502518

730357.6

0.507074

91

0.497063

109

35*35

0.502096

0.502396

751763.7

0.507339

97

0.497159

103

權重初始化方式

tw[a][b]=(double)ti1/200;

收斂標準

Math.abs(jud[0]-jud[1])>0.01

學習率

ret=0.1

a值得曲線看起來規律並不明顯

但是如果統計a>0.5

或者統計a<0.5

可以發現非常明顯隨著網路結構的增加,收斂出的輸出值也在增加,可以合理的推測如果收集的樣本數量不是200組而是2000組合2萬組得到的曲線應該光滑的多。

所以神經網路的輸出值是判斷網路結構的相當有參考價值的指標,輸出值的變化可以很好的反應網路結構的變化。

本文所用資料同《用神經網路模擬分子:資料重複性檢測  》的資料。