機器學習是許多初創公司和企業的關鍵技術。儘管經歷了數十年的投入和改進，開發、訓練和維護機器學習模型的過程仍然繁瑣且欠缺通用性。將機器學習技術整合到應用程式中的過程往往需要一個專家團隊進行為期數月的調整和修補，而且設定還不一致。企業和開發人員需要一個端到端、開發到生產的機器學習管道。

Amazon SageMaker 簡介

Amazon SageMaker 是一種完全託管的端到端機器學習服務，資料科研人員、開發人員和機器學習專家可以快速、大規模地構建、訓練和託管機器學習模型。這極大地推進了您所有的機器學習工作，讓您能夠將機器學習技術迅速融入生產應用程式。

Amazon SageMaker 包含三個主要元件：

• 編寫：零設定託管式 Jupyter 筆記本 IDE，可進行資料探索、清理和預處理。您可以在一般例項型別或 GPU 驅動例項上執行上述功能。
• 模型訓練：分散式模型構建、訓練和驗證服務。您可以使用內建的通用監督式和非監督式學習演算法和框架，也可以藉助 Docker 容器建立自己的訓練。訓練可以擴充套件到數十個例項以支援更快的模型構建。從 S3 讀取訓練資料，並將模型構件存放到 S3。模型構件是資料相關的模型引數，而不是允許您從模型進行推理的程式碼。這種問題隔離策略簡化了將經過 Amazon SageMaker 培訓的模型部署到物聯網裝置等其他平臺的過程。
• 模型託管：一種模型託管服務，可通過 HTTPS 終端節點呼叫模型獲取實時推理。這些終端節點能夠擴充套件以支援流量，允許您同時對多個模型進行 A/B 測試。同樣，您可以使用內建軟體開發工具包構建這些終端節點，也可以利用 Docker 映象提供自定義配置。

這些元件中的每一個都可以獨立使用，這使得使用 Amazon SageMaker 填補現有管道中的空白變得極其簡單。也就是說，在端到端管道中使用此服務時，您可以獲得一些非常強大的功能。

使用 SageMaker

我打算構建、訓練和部署一個基於 Apache MXNet

使用 Jupyter 筆記本編寫

建立筆記本例項時，它會啟動一個 ML 計算例項，其中包含深度學習應用中常見的 Anaconda 包和庫、一個 5 GB ML 儲存卷和幾個演示各種演算法的示例筆記本。我可以選擇配置 VPC 支援來在我的 VPC 中建立一個 ENI，以方便、安全地訪問我的資源。

待例項完成預配置後，我就可以開啟筆記本開始編寫程式碼了！

模型訓練

對於任何型別的 Amazon SageMaker 常見框架訓練，您都可以實現類似下面的簡單訓練介面。為簡潔起見，這裡省略了實際的模型訓練程式碼：

def train(
    channel_input_dirs, hyperparameters, output_data_dir,
    model_dir, num_gpus, hosts, current_host):
    pass

def save(model):
    pass

我打算在 Amazon SageMaker 基礎設施上的 4 個 ml.p2.xlarge 例項上建立一個分散式訓練作業。我已經下載了本地所需的全部資料。

import sagemaker
from sagemaker.mxnet import MXNet
m = MXNet("cifar10.py", role=role, 
          train_instance_count=4, train_instance_type="ml.p2.xlarge",
          hyperparameters={'batch_size': 128, 'epochs': 50, 
                           'learning_rate': 0.1, 'momentum': 0.9})

現在，我們構建好了模型訓練作業，可以通過下面的呼叫為其提供資料： m.fit("s3://randall-likes-sagemaker/data/gluon-cifar10")。

導航到作業控制檯，可以看到系統正在執行此作業！

託管和實時推理

現在，我的模型已完成訓練，可以開始生成預測了！我使用跟以前相同的程式碼建立和啟動一個終端節點。

predictor = m.deploy(initial_instance_count=1, instance_type='ml.c4.xlarge')

呼叫終端節點的操作十分簡單，直接執行： predictor.predict(img_input)!

這就是一個程式碼不足 100 行的端到端機器學習管道。

下面我們再演練一個示例，瞭解一下如何只使用 Amazon SageMaker 的模型託管元件。

使用自定義 Docker 容器

Amazon SageMaker 為 Docker 容器定義了一個簡單的規範，讓您能夠輕鬆編寫自定義訓練演算法或自定義推理容器。

我有一個基於此處所述架構的現有模型，我打算託管此模型進行實時推理。

我建立了一個簡單的 Dockerfile 和 flask 應用程式來提供推理。

由於載入模型和生成預測的程式碼因實際應用而異，此處省略了這些程式碼。從本質上說，我構建了一個方法來從輸入 URL 下載影象，然後將此影象資料傳遞給 MXNet 模型進行預測。

from flask import Flask, request, jsonify
import predict
app = Flask(__name__)

@app.route('/ping')
def ping():
    return ("", 200)

@app.route('/invocations', methods=["POST"])
def invoke():
    data = request.get_json(force=True)
    return jsonify(predict.download_and_predict(data['url']))

if __name__ == '__main__':
    app.run(port=8080)

FROM mxnet/python:latest
WORKDIR /app
COPY *.py /app/
COPY models /app/models
RUN pip install -U numpy flask scikit-image
ENTRYPOINT ["python", "app.py"]
EXPOSE 8080

我將這個影象推送到 ECR，然後導航到 Amazon SageMaker 中的模型控制檯來建立一個新模型。

建立新模型後，我還預配置了一個終端節點。

現在我可以從 AWS Lambda 或任何其他應用程式呼叫此終端節點了！我設定了一個 Twitter 賬戶來展示這個模型。您可以通過 Twitter 向 @WhereML 推送一張圖片，看看它能否猜出位置！

import boto3
import json
sagemaker = boto3.client('sagemaker-runtime')
data = {'url': 'https://pbs.twimg.com/media/DPwe4kMUMAAWCd_.jpg'}
result = sagemaker.invoke_endpoint(
    EndpointName='predict',
	Body=json.dumps(data)
)

定價

作為 AWS 免費套餐的一部分，您可以免費開始使用 Amazon SageMaker。在前兩個月，您每月可以免費使用：250 小時的 t2.medium 筆記本用量、50 小時的 m4.xlarge 用量和 125 小時的 m4.xlarge 用量。超出免費套餐部分的定價因地區而異，但基於以下要素計費：例項用量 (秒)、儲存 (GB) 和傳入/傳出服務的資料量 (GB)。

Jeff 告訴我，在今年的 re:Invent 大會舉辦之前，不要撰寫“太過重磅”的文章。顯然，我沒把持住。在 re:Invent 2017 釋出的眾多美妙產品中，Amazon SageMaker 是我最喜歡的服務。我已經迫不及待想要知道我們的客戶能夠利用這個令人興奮的工具套件完成哪些“壯舉”了。