預測房價：人工智慧迴歸問題
我們之前提出了三個經典的問題，他們分別是：
- 二分類問題（電影評論好壞傾向性判斷）
- 多分類問題（將新聞按照主題分類）
- 迴歸問題（根據房地產資料估算房地產價格）
我們解決了前兩個問題，今天我們解決第三個問題，迴歸問題。
不管是二分類問題還是多分類問題，歸結起來都是分類問題，而回歸問題不一樣，他是一種迴歸問題，迴歸問題的訓練結果不是離散的情況，而是連續的情況，例如預測明天的氣溫、全年降水量等。
這裡我們引入的依舊是 Keras 內建的實際問題和資料集：預測波斯頓的房價。針對波士頓的不同房屋，我們給出對每個房屋我們給出十三個資料指標，包括房間數、犯罪率和高速公路可達性等，他們的取值範圍不一致，0-1、1-12 或 1-100 等，訓練的目標是一個連續的值——房屋的價格。具體的步驟如下分別說明：
從資料集中讀取資料我們已經很熟悉了，但是我們觀察資料會發現，這些資料的取值範圍差別太大了，這會導致網路訓練過程的失真，因此比較好的辦法是我們先對資料進行預處理，預處理的方法是：(原資料 - 平均值) / 標準差，這就相當於對資料進行標準化，標準化後的資料平均值為 0，標準差為 1。mean 和 std 方法分別是求平均值和計算標準差。
因為我們這一次的資料量只有五百多個，因此我們採用較小的網路，兩個隱藏層。這裡我們需要注意的一點是資料量少，訓練容易產生過擬合，小型網路更適合。
- 我們仍然可以用之前的方法進行訓練集與反饋集的劃分，但問題是由於我們的資料量太小了，因此具體如何劃分反饋集過於隨機，這會對最後的結果有很大的影響，因此我們採用的是 K 折交叉驗證的方法。K 折交叉驗證的含義是我們將資料集分為 K 份，每次從這 K 份中選擇一份當做驗證集，進行 K 次互相獨立的訓練，最後取 K 次訓練的平均值。具體如圖：
- 我們畫出訓練 500 輪的圖，可以看到最開始的一些資料不是好資料，我們把他們去掉，然後再繪製一張圖，如下別是兩次繪製的結果，又可以看到之前出現的問題——過擬合了，因此我們調整迴圈次數為 80 次
修改後的訓練網路是一個可以接受的網路，我們在測試集上進行驗證，整體基本可以達到要求。
到此，我們已經分別討論文章開始提到的三個問題（包括前兩篇文章），二分類問題、多分類問題和迴歸問題，這其中我們也遇到和解決了一些問題，下面總結如下：
神經網路對資料的處理大多都需要轉化為對數字的處理，因此對於文字等內容需要進行預處理；
對於資料集的大小、特徵的多少和特徵值之間的差別等，考慮資料網路的大小，層數、資料的標準化和訓練的迭代次數，此類問題往往也需要畫圖去觀察和判斷，最後需要根據調整的引數最終得到比較合適的網路模型；
訓練迭代次數不夠和過擬合都是經常遇到的問題，都是不夠好的訓練網路，實際問題中需要對兩種情況都進行評估和調整；
損失函式和反饋函式的選取，需要考慮實際問題，根據資料的要求，進行選擇；
接下來的文章，將進一步針對上面提到的這些問題進行更加系統的分析和研究。
#!/usr/bin/env python3
import time
import numpy as np
from keras import layers
from keras import models
from keras.datasets import boston_housing
def housing():
global train_data
(train_data, train_targets), (test_data, test_targets) = boston_housing.load_data()
# (404, 13)
# print(train_data.shape)
# (102, 13)
# print(test_data.shape)
# [15.2 42.3 50. 21.1 17.7 18.5 11.3 ... 19.4 19.4 29.1]
# print(train_targets)
# 平均值
mean = train_data.mean(axis=0)
train_data -= mean
# 標準差
std = train_data.std(axis=0)
train_data /= std
test_data -= mean
test_data /= std
k = 4
num_val_samples = len(train_data) // k
num_epochs = 500
all_mae_histories = []
for i in range(k):
print('processing fold #', i)
val_data = train_data[i * num_val_samples: (i + 1) * num_val_samples]
val_targets = train_targets[i * num_val_samples: (i + 1) * num_val_samples]
partial_train_data = np.concatenate(
[train_data[:i * num_val_samples],
train_data[(i + 1) * num_val_samples:]],
axis=0)
partial_train_targets = np.concatenate(
[train_targets[:i * num_val_samples],
train_targets[(i + 1) * num_val_samples:]],
axis=0)
model = build_model()
model.fit(train_data, train_targets,
epochs=80, batch_size=16, verbose=0)
test_mse_score, test_mae_score = model.evaluate(test_data, test_targets)
# history = model.fit(partial_train_data, partial_train_targets,
# validation_data=(val_data, val_targets),
# epochs=num_epochs, batch_size=1, verbose=0)
# mae_history = history.history['val_mean_absolute_error']
# all_mae_histories.append(mae_history)
# average_mae_history = [
# np.mean([x[i] for x in all_mae_histories]) for i in range(num_epochs)]
#
# plt.plot(range(1, len(average_mae_history) + 1), average_mae_history)
# plt.xlabel('Epochs')
# plt.ylabel('Validation MAE')
# plt.show()
#
# smooth_mae_history = smooth_curve(average_mae_history[10:])
# plt.plot(range(1, len(smooth_mae_history) + 1), smooth_mae_history)
# plt.xlabel('Epochs')
# plt.ylabel('Validation MAE')
# plt.show()
def build_model():
model = models.Sequential()
model.add(layers.Dense(64, activation='relu',
input_shape=(train_data.shape[1],)))
model.add(layers.Dense(64, activation='relu'))
model.add(layers.Dense(1))
model.compile(optimizer='rmsprop', loss='mse', metrics=['mae'])
return model
def smooth_curve(points, factor=0.9):
smoothed_points = []
for point in points:
if smoothed_points:
previous = smoothed_points[-1]
smoothed_points.append(previous * factor + point * (1 - factor))
else:
smoothed_points.append(point)
return smoothed_points
def smooth_curve(points, factor=0.9):
smoothed_points = []
for point in points:
if smoothed_points:
previous = smoothed_points[-1]
smoothed_points.append(previous * factor + point * (1 - factor))
else:
smoothed_points.append(point)
return smoothed_points
if __name__ == "__main__":
time_start = time.time()
housing()
time_end = time.time()
print('Time Used: ', time_end - time_start)