機器學習部署有很多挑戰，但是新的Seldon Core打算幫助它的新的開源平臺，用於在Kubernetes上部署機器學習模型。

Kubernetes(通常稱為K8s) 是用於自動部署、擴充套件和管理容器化（containerized）應用程式的開源系統。它旨在提供“跨主機叢集的自動部署、擴充套件以及執行應用程式容器的平臺”。它支援一系列容器工具, 包括Docker等。

Seldon.io宣佈了一個新的開源平臺—Seldon Core，該平臺可以讓資料科學團隊在規模上執行和管理模型。Seldon Core專注於解決任何機器學習專案的最後一步，幫助公司將模型投入生產，解決現實問題，並最大化投資回報。

傳統的基礎設施堆疊（stack）和devops流程不能很好地轉化為機器學習，而且在這個領域中存在有限的開源創新，這迫使企業以巨大的代價建立自己的或者使用專有的服務。擁有必要的多科性技能的資料工程師是非常罕見的。低效率導致資料科學家被投入到服務質量和與效能相關的挑戰中，這些挑戰將他們的注意力從他們可以增加價值的地方轉移到構建更好的模型上。

資料科學家專注於建立更好的模型，而devops團隊能夠更有效地使用他們所理解的工具來管理部署。

平臺的特點包括:

• 使資料科學家能夠部署使用任何機器學習工具包或程式語言構建的模型。Seldon Core計劃最初支援基於python的工具/語言，包括Tensorflow、scikitlearn、Spark和H20。
• 在部署時，通過REST和gRPC將機器學習模型自動地整合到需要預測的業務應用程式和服務中。
• 處理部署的模型的完整生命週期管理，沒有停機，包括更新執行時圖、縮放、監視和安全。

安裝

• 官方版本：https://storage.googleapis.com/seldon-charts

安裝seldon-core:

helm install seldon-core --name seldon-core --repo 
https://storage.googleapis.com/seldon-charts

要安裝包括Prometheus和Grafana在內的可選分析元件，使用一個內建的指示板來監控執行的機器學習部署:

helm install seldon-core --name seldon-core 
 --set grafana_prom_admin_password=password 
 --set persistence.enabled=false 
 --repo https://storage.googleapis.com/seldon-charts

部署指南

• 更多詳情請參閱：https://github.com/SeldonIO/seldon-core