決策樹的第一個演算法為，計算給定資料集的夏農熵

夏農熵的計算公式都給出來了，下面貼一下程式碼

還是比較好懂的，就是先建立一個字典，在字典裡面對每個類別新建一個鍵值對，值為每個類別的樣本個數

之後分別計算概率啊什麼的

輸出如下

跟書上的答案是一樣的

我個人有一點點的疑問是對字典型別的自建函式

下面看看python文件

dict.keys()             

返回一個包含字典中鍵的列表

>>> help(dict.keys)
Help on method_descriptor:

keys(...)
    D.keys() -> a set-like object providing a view on D's keys

dict.values()           

返回一個包含字典中所有值的列表

>>> help(dict.values)
Help on method_descriptor:

values(...)
    D.values() -> an object providing a view on D's values

dict.items()

返回一個包含字典中(鍵, 值)對元組的列表

>>> help(dict.items)
Help on method_descriptor:

items(...)
    D.items() -> a set-like object providing a view on D's items

下面是按照給定的屬性以及屬性值劃分資料集，

書上的例子是每次如果使用過這個屬性之後，就將這個屬性從資料集中去掉

我覺得不需要這樣

下面選擇最好的劃分樣本集的方式：

貼程式碼：

有點亂，而且有一個地方書上是用列表生成的方法做的，比我寫的要好一些，但功能是一樣的

最後的返回值結果是一樣的。

下面是建立樹的程式碼，

因為之前我寫的函式與書上的略微有差別，故這裡我又進行了改動，增加了一個引數，就是attribute_num，表示的是樣本中屬性的個數，這個值需要自己去傳。

剛剛還是有點不熟悉232行前面的是什麼意思，所以就順手寫了幾個示例。現在算是明白了